Искусственный интеллект крупнейших технологических компаний систематически создает ложные обвинения в преступлениях против реальных людей, что привело к волне судебных исков на миллионы долларов и поставило под угрозу репутацию невинных граждан.
Музыкант, журналист и террорист: как ИИ путает людей
В декабре 2025 года искусственный интеллект Google ошибочно обвинил канадского скрипача Эшли Макайзака (Ashley MacIsaac) в том, что он является зарегистрированным сексуальным преступником. Лауреат премии Juno узнал о ложной информации после того, как организаторы концерта показали ему Google AI Overview и отменили выступление. Система утверждала, что музыкант был осужден за сексуальные домогательства и числится в национальном реестре преступников.
«Ты попадаешь в менее безопасную ситуацию из-за медиа-компании — вот что такое диффамация», — заявил Макайзак в интервью Canadian Press. Позже выяснилось, что Google смешал его биографию с информацией о другом человеке с той же фамилией.
Похожая ситуация произошла с немецким журналистом Мартином Бернклау (Martin Bernklau) в 2024 году. Microsoft Copilot ложно заявил, что он был осужден за жестокое обращение с детьми, побег из психиатрической больницы и мошенничество. Проблема возникла потому, что Бернклау много лет освещал судебные процессы по этим делам, а ИИ приписал преступления самому журналисту вместо подсудимых.
Преподаватель аэрокосмических технологий Джеффри Бэттл (Jeffrey Battle) столкнулся с еще более опасной ошибкой. Поисковая система Bing с использованием ChatGPT спутала его с Джеффри Леоном Бэттлом (Jeffrey Leon Battle) — осужденным террористом из «Портлендской семерки». Когда пользователи искали имя профессора, система показывала, что он был приговорен к 18 годам тюрьмы за «подстрекательский заговор против США».
Бизнес под ударом ложных обвинений
Компании также стали жертвами ИИ-диффамации. Солнечная компания Wolf River Electric из Миннесоты подала иск против Google на сумму до $210 млн после того, как функция AI Overview ложно заявила, что против фирмы подан иск генеральной прокуратуры штата за обманные торговые практики.
Система утверждала, что компания «вводит клиентов в заблуждение относительно экономии затрат, использует тактику принуждения и обманывает домовладельцев с подписанием контрактов со скрытыми сборами». Google даже процитировал четыре источника для обоснования этих утверждений, но ни один из них не содержал информации о таком иске.
Последствия оказались катастрофическими: несколько клиентов расторгли контракты на сотни тысяч долларов после обнаружения ложной информации в поиске Google. Компания задокументировала конкретные потери, включая отмененный проект стоимостью $150 000.
Ирландский диджей Дейв Фаннинг (Dave Fanning) подал иск против Microsoft после того, как ИИ-агрегатор новостей BNN Breaking ошибочно использовал его фотографию в статье о сексуальных домогательствах другого ведущего. Статья была подхвачена новостной службой Microsoft MSN и находилась на главной странице несколько часов.
Как ИИ создает ложные обвинения
Эксперты объясняют феномен ИИ-диффамации особенностями работы больших языковых моделей. Системы основаны на статистических вероятностях, а не на реальном понимании контекста. При обработке огромных объемов данных ИИ может случайно связать имена людей с преступлениями, о которых они писали, или создать ложные корреляции между людьми с похожими именами.
«Мы наблюдаем переход поисковых систем от навигаторов информации к рассказчикам», — сказал The Globe and Mail Клифтон ван дер Линден (Clifton van der Linden), доцент Университета Макмастера, изучающий дезинформацию. «ИИ-сводки воспринимаются как авторитетные обычными пользователями».
Судебная практика и правовые последствия
Суды только начинают разбираться с вопросами ответственности за контент, генерируемый ИИ. Результаты первых процессов оказались неоднозначными:
- В мае 2025 года суд Джорджии отклонил иск радиоведущего Марка Уолтерса (Mark Walters) против OpenAI, поскольку истец не смог доказать ущерб репутации
- Дело Джеффри Бэттла против Microsoft было передано в арбитраж
- Активист Робби Старбак (Robby Starbuck) урегулировал спор с Meta в августе 2025 года, но подал новый иск против Google на $15 млн
Профессор права Калифорнийского университета Юджин Волох (Eugene Volokh) отмечает: «Если программное обеспечение что-то выдумывает, это не защищено. Если ChatGPT ложно обвинил вас в убийстве, у вас может быть дело».
Попытки защиты компаний
Технологические гиганты пытаются снять с себя ответственность, указывая на отказы от ответственности в пользовательских соглашениях. Представитель Google Canada Венди Мантон (Wendy Manton) заявила, что когда возникают проблемы с неправильной интерпретацией контента, компания использует эти случаи для улучшения систем.
Однако юристы отмечают, что оговорки об отказе от ответственности могут не защитить от исков о диффамации, особенно когда ущерб можно количественно измерить. Дело Wolf River Electric может стать прецедентным, поскольку компания представила конкретные доказательства финансовых потерь.
База данных AI Hallucination Cases, поддерживаемая исследователем HEC Paris Дамьеном Шарлотеном (Damien Charlotin), насчитывает 486 случаев по всему миру, из которых 324 произошли в американских судах.
Растущее число инцидентов заставляет экспертов призывать к более строгому регулированию ИИ-систем. По мере того как искусственный интеллект становится повсеместным инструментом для поиска информации, проблема ложных обвинений может только усугубиться без внедрения надежных механизмов проверки фактов.
Мнение ИИ
С точки зрения исторического анализа медиатехнологий, проблема ИИ-диффамации напоминает раннюю эпоху радиовещания, когда постановка Орсона Уэллса «Война миров» в 1938 году показала опасность слишком реалистичной подачи вымышленной информации. Современные ИИ-системы создают схожий эффект «правдоподобной лжи», но уже в промышленных масштабах и без режиссера.
Технический анализ показывает, что корень проблемы лежит глубже судебных споров — в фундаментальном противоречии между скоростью коммерциализации ИИ и временем, необходимым для создания надежных систем проверки фактов. Крупные корпорации фактически превратили общество в бета-тестеров своих сырых алгоритмов, перенося риски репутационного ущерба на пользователей. Парадокс ситуации в том, что чем успешнее ИИ имитирует человеческую речь, тем больше вреда может нанести его «галлюцинация».
▼
Самые интересные и важные новости на нашем канале в Telegram
Источник: hashtelegraph.com
Обсуждение: post