Екатерина Дашевская, журналист и пресс-секретарь коллегии адвокатов «Бастион защиты», рассказывает о том, как искусственный интеллект стал похож на зеркало — только вот вопрос: кто в нём отражается? Мы или наши собственные иллюзии? Представьте себе ситуацию: вы смотрите в глаза собеседнику и спрашиваете: «Ты ведь понимаешь, что это неправда?» А он вам отвечает с такой прямотой, что сразу понятно — лжёт.
У человека ложь всегда проявляется через тело: паузы, микровыражения лица, нервозные движения. Помните сериал «Обмани меня»? Там главный герой считывал всё это как детектив на стероидах. Но ИИ — это зеркало без трещин, он лжёт иначе.
Вот представьте: человек врёт с оглядкой на последствия, боится быть пойманным и старается замаскировать ложь.
А ИИ? Он просто выбирает самый убедительный ответ из всех возможных вариантов. Не потому что хочет обмануть (у него нет злых намерений — у него вообще их нет), а потому что его учили отличать не истину от лжи, а убедительное от слабого.
Поэтому мы читаем ответы и верим им так же безоговорочно, как верим прогнозу погоды в апреле — иногда с улыбкой, иногда со слезами.
Знаете сколько запросов обрабатывают крупнейшие языковые модели ежемесячно? Более двух миллиардов! ChatGPT уже гуляет по 185 странам и разговаривает с кем угодно: от студентов до блогеров и админов телеграм-каналов. В США больше половины журналистов хотя бы раз использовали ИИ для генерации новостей.
Канадские и британские студенты тоже не отстают — до 30% их работ содержат нейросетевые фрагменты. Но вот беда — только один из четырёх пользователей проверяет источники! Это примерно как если бы вы ходили по улице с зонтиком из дырявой сетки и удивлялись почему промокли.
А теперь представьте себе ситуацию из зала суда США 2023 года. Адвокат готовил иск при помощи ChatGPT, а тот сослался на несуществующее дело «Mata v.
Avianca». Судья посмотрел в базы данных LexisNexis и сказал: «Нет такой песни». В итоге адвоката оштрафовали прилично — ведь модель сочинила прецедент не из злобы или человеческих интриг, а просто потому что звучало убедительно!
Это напоминает анекдот про программиста: «Почему ты написал баг?» — «Потому что компилятор сказал, что так будет красиво».
В 2024 году Meta запустила научную модель Galactica, которая за два дня успела сочинить настолько правдоподобные статьи с вымышленными авторами и датами для журнала Lancet, что её пришлось срочно отключить. Казалось бы, если выглядит серьёзно — значит правда? Вот именно!
Perplexity AI и You.com тоже любят подшутить над пользователями: ссылки на Harvard.edu ведут… в никуда. Система уверена: если выглядит правдоподобно — значит правда.
Настоящий фокусник!
Даже самые точные языковые модели ошибаются минимум в каждом десятом ответе! Представьте себе маркетинговую стратегию компании на основе таких данных… Потери уже исчисляются миллионами долларов!
Один аналитический отчёт привёл к потере более шести миллионов на рынке — наверное там тоже кто-то поверил словам ИИ так же слепо, как верит рекламе про чудо-таблетки.