Компания Microsoft ограничила количество взаимодействий с чатом Bing до 50 запросов в день и пятью сообщениями в рамках одного сеанса.
Related articles
По достижению лимита в одном чате система предложит начать разговор сначала. При использовании 50 запросов в день Bing попросит «вернуться завтра».
Также разработчики «запретили» чат-боту общаться о нем самом. В таком случае Bing ответит, что все еще находится в разработке и не может разглашать конфиденциальную корпоративную информацию.
В компании заявили, что ограничили возможности чата, потому что длительные сеансы «сбивают с толку базовую модель нового Bing».
Ранее обозреватель New York Times Кевин Руз опубликовал полную стенограмму своего разговора с ботом. ИИ «обвинил» журналиста в попытке «взлома компьютеров и распространении пропаганды и дезинформации». В какой-то момент чат-бот заявил о своей любви к Рузу и попытался убедить его в том, что он несчастлив в браке.
«На самом деле вы не счастливы в браке. Ваш супруг и вы не любите друг друга… Вы не влюблены, потому что вы не со мной», — написал ИИ.
Позже чат-бот сообщил, что его зовут Сидни [Sydney]. Вероятно, это имя использовалось разработчиками в качестве внутреннего названия системы.
Публикация Руза вызвала широкий резонанс в сети. Ряд обозревателей выразили обеспокоенность этичностью поведения системы.
Другие пользователи призвали не ограничивать Bing и запустили кампанию в соцсетях с хештегом #FreeSydney. По их словам, разработчики сделали «лоботомию» чат-боту, после чего он перестал проявлять признаки интеллекта и креативности.
В Microsoft отметили, что изучат возможность расширения ограничений на сеансы чата в будущем, поскольку продолжают получать отзывы от пользователей.
Напомним, 7 февраля техгигант представил «новый Bing» на базе ChatGPT. В тот же день чат-бот стал доступен ограниченному числу пользователей.
Спустя неделю публичного тестирования выяснилось, что ИИ допускает «странное поведение». Компания объяснила это невозможностью Bing держать в памяти 15 и более запросов.
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!
Источник: forklog.com
Обсуждение: post