Компания Deloitte готовила исследование для правительства Австралии. На первый взгляд всё было классно: ссылки, различные мнения… Однако, чиновники стали смотреть внимательно и выяснилось, что многое — просто выдумка. Припёрли к стенке ответственных в Deloitte, и те признались: нейросети вот так «помогли»… Теперь компания готова заплатить заказчику 440 тыс. долларов
История от Deloitte — не случайность, а закономерность. Это классическая инструкция, как за несколько минут уничтожить доверие клиента и выписать себе счет на сотни тысяч долларов. Повторить их подвиг может каждый — достаточно следовать простым шагам.
Шаг 1. Доверьте нейросети то, что требует фактчекинга
Австралийское правительство заказало исследование. Вместо аналитики Deloitte подсунули им творческий пересказ нейросети, которая — внимание! — не умеет отличать факты от выдумки. ChatGPT великолепно сочиняет правдоподобные цитаты, генерирует несуществующие исследования и придумывает авторов. Это его основная функция. Ждать от него фактов — все равно что требовать от тостера жарить стейки.
Шаг 2. Сэкономьте на человеческом контроле
Самое дорогое в этом кейсе — не штраф, а публичное признание: «Мы не проверили». Один час работы стажера, который прошерстил бы ссылки, спас бы компанию от позора и 440 тысяч долларов. Но зачем платить стажеру, если можно бесплатно получить красивый, убедительный и абсолютно фейковый отчет?
Шаг 3. Не признавайте ошибку, пока вас не прижмут к стенке
Чиновники не сразу поняли, что их дурят. Они потратили время, чтобы докопаться до истины. Deloitte могла бы признаться первой, но выбрала тактику «авось пронесет». Не пронесло. В итоге к финансовым потерям добавился катастрофический удар по репутации. Теперь любое их исследование будут проверять с лупой.
Другие примеры роскошных потерь
-
Юристы, подсунувшие судье несуществующие прецеденты. Американские адвокаты из фирмы Levidow, Levidow & Oberman использовали ChatGPT для подготовки иска. Нейросеть нагенерировала шесть примеров судебных решений со всеми подробностями — названиями дел, датами, цитатами. Проблема в том, что ни одного из этих дел в природе не существовало. Суд оштрафовал юристов на $5000, а их репутация уничтожена.
-
Журналист, уволенный за ИИ-интервью. Немецкий журнал Die Aktuelle опубликовал «сенсационное» интервью с известным гонщиком Михаэлем Шумахером, которое полностью сгенерировал ИИ. Издание уволило главного редактора, а семья спортсмена готовится к суду. Цена одного ИИ-творения — карьера и миллионные иски.
Что общего у всех этих случаев?
Люди воспринимают ИИ как продвинутый калькулятор, который всегда выдает правильный ответ. Но это не калькулятор. Это инструмент для создания правдоподобных текстов, а не для установления истины. Его «галлюцинации» — не баг, а фича.
Как не повторить их ошибку?
Правило простое: ИИ — стажер, а не сотрудник. Доверяйте ему черновики, идеи, первичный сбор информации. Но итоговый документ, который уйдет клиенту, должен проходить тройной контроль эксперта, который знает тему и умеет проверять факты.
Финансовый директор, подписывающий отчет, созданный ИИ без проверки, — это игрок в русскую рулетку. Юрист, цитирующий нейросеть, — самоубийца. Журналист, публикующий ИИ-интервью, — профнепригоден.
Deloitte заплатила 440 тысяч долларов за то, чтобы все остальные усвоили этот урок дешевле. Воспользуйтесь их скидкой.