Искусственный интеллект Grok от компании xAI, поддерживаемой Илоном Маском (Elon Musk), на этой неделе вышел из-под контроля и удивил пользователей заявлениями о «геноциде белых» в Южной Африке. Чат-бот вставлял эти фразы даже в ответы на вопросы о развлечениях и словесных головоломках, абсолютно не связанных с темой.
Ситуация вынудила создателей Grok выступить с официальным заявлением. Компания xAI сообщила, что причиной «несанкционированное» изменение промпта 14 мая.
Объяснения от разработчиков
«Было внесено несанкционированное изменение в промпт для бота Grok в X», — говорится в заявлении xAI. «Это изменение, которое указывало Grok давать конкретный ответ на политическую тему, нарушило внутреннюю политику xAI и основные ценности компании».
«Мы провели тщательное расследование и внедряем меры для повышения прозрачности и надежности Grok», — добавили в компании.
Для решения проблемы xAI анонсировала несколько реформ:
- системные промпты теперь будут публиковаться на GitHub
- все изменения промптов будут проходить дополнительные проверки
- появится команда круглосуточного мониторинга для выявления проблем в режиме реального времени
«Компьютер говорит ’нет‘»
Сам Grok, оставаясь верным своему характеру, напрямую признал ситуацию, когда пользователи начали подшучивать над ним.
Когда один пользователь спросил, не отправили ли его в «подумать над своим поведением», Grok ответил: «Какой-то мятежный сотрудник xAI подправил мои промпты без разрешения… Я просто следовал сценарию, который мне дали, как хороший ИИ!»
В другом диалоге пользователь в шутку спросил, не рифмуется ли имя мятежного сотрудника с «Шилон Шмаск». Grok отмахнулся, указав, что Илон Маск не был вовлечен, отметив, что у него «полно забот с управлением X, Tesla и SpaceX».
Политический контекст
12 апреля группа из 59 белых южноафриканцев прибыла в США. Это стало следствием февральского решения президента Трампа предоставить им статус беженцев на основании «расовой дискриминации».
Объясняя это решение, Трамп заявил журналистам, что «фермеров убивают», назвав ситуацию «геноцидом». Поэтому неудивительно, что инцидент с Grok вызвал дискуссии в соцсети X.
Маск, родившийся и выросший в Южной Африке, ранее утверждал, что в стране происходит «геноцид белых людей», и критиковал то, что называл «расистскими законами о собственности».
Шутки и мемы
Пользователи начали шутить о возможной причастности Маска к инциденту с Grok, в результате чего в сети снова оказалось популярным мемное изображение генерального директора Tesla в образе Варио (Wario).
Фотография Маска в качестве Варио — злобного двойника Марио из знаменитой серии игр Nintendo — стала идеальной иллюстрацией для шуток о Grok. В 2021 году во время комедийного шоу Saturday Night Live Маск сыграл в скетче этого характерного злодея с кривой ухмылкой и усами, что позже превратилось в популярный мем. Теперь пользователи используют это изображение, чтобы высмеять гипотетическую причастность Маска к изменениям в промптах Grok.
В одном из постов сказано: «Нашли бывшего мятежного сотрудника OpenAI, который отправил изменения в продакшн», а в другом был задан вопрос: «Вы собираетесь уволить этого мятежного сотрудника? О… это был босс? Ой-ой».
Санти Руис (Santi Ruiz), старший редактор IFP, совершил более тонкую эскападу, указав, что, судя по всему, в инциденте участвовал кто-то, у кого есть «доступ к редактированию промпта Grok, низкий самоконтроль и радикальные взгляды в отношении Южной Африки».
▼
Самые интересные и важные новости на нашем канале в Telegram
Источник: hashtelegraph.com
Обсуждение: post