Дипфейки с Сэмом Альтманом заполонили новое социальное приложение Sora от OpenAI.
В одном из роликов показана фабрика розовых свиней, которые хрюкают и фыркают в своих загонах. Перед каждой установлены кормушка и смартфон с лентой вертикальных видео. CEO OpenAI смотрит прямо в камеру и спрашивает:
«Мои поросята довольны своей помойкой?»
В другом ролике ИИ-Альтман утверждает, что контент может нарушать правила использования образов третьих лиц, затем истерически смеется. В приложении много контента, где «Пикачу» шепчет ASMR, «Наруто» заказывает крабсбургеры, а «Марио» курит траву.
OpenAI доработала физику в новом ИИ-генераторе видео Sora 2, который лежит в основе приложения. Теперь ролики выглядят более реалистично, однако это также облегчает распространение дезинформации в сети.
Помимо алгоритмической ленты и профилей, ключевой особенностью Sora является инструмент cameo. Он позволяет загружать личные данные и использовать их для создания видео.
Пользователь может сам определять, кто имеет право делать ролики с его cameo. Доступны четыре варианта: «только я», «люди, которых я одобрю», «взаимные подписчики» и «все».
Альтман сделал свое cameo доступным для всех. В результате лента Sora заполнилась роликами, где «Пикачу» и «Губка Боб» просят предпринимателя перестать обучать искусственный интеллект на их образах.
Этичность запуска
Несколько нынешних и бывших сотрудников OpenAI высказались о первом шаге компании в области социальных сетей.
«Ленты на основе ИИ — это пугающе. Не буду скрывать, я испытал определенное беспокойство, когда впервые узнал, что мы выпускаем Sora 2. Однако, я думаю, команда сделала все возможное, чтобы создать позитивный опыт. Мы будем стараться, чтобы искусственный интеллект помогал, а не вредил человечеству», — написал сотрудник компании, который занимается предобучением моделей, Джон Холлман.
AI-based feeds are scary. I won’t deny that I felt some concern when I first learned we were releasing Sora 2.
That said, I think the team did the absolute best job they possible could in designing a positive experience. Compared to other platforms, I find myself scrolling way… https://t.co/uLeeVMKncl— John Hallman (@johnohallman) September 30, 2025
Он назвал Sora 2 «поразительно невероятной технологией».
«Мне было бы так же грустно, если бы мы никогда не выпустили ее из-за страха касательно того, что что-то может пойти не так», — добавил эксперт.
Другой исследователь OpenAI и профессор Гарварда Боаз Барак испытал «ту же смесь тревоги и воодушевления».
«Технически Sora 2 потрясающа, но слишком рано поздравлять себя с тем, что нам удалось избежать ловушек других соцсетей и дипфейков», — написал он.
Из плюсов он выделил заметный водяной знак при экспорте, возможность использовать только реальных людей через загруженные cameo и контролировать, как используется личность человека.
Альтмана раскритиковали за разработку социального приложения с дипфейками вместо общего искусственного интеллекта (AGI). Он объяснил, зачем это необходимо делать:
«[…] В основном нам действительно нужен капитал для того, чтобы строить ИИ, способный заниматься наукой, и, конечно, почти все наши исследовательские усилия сосредоточены на создании AGI. При этом приятно показывать людям новые классные технологии и продукты по пути, заставлять их улыбаться и, надеюсь, зарабатывать деньги — учитывая все потребности в вычислительных ресурсах. Когда мы запустили ChatGPT, звучало множество вопросов в духе “кому это вообще нужно и где же AGI” […]».
В июньском подкасте Альтман говорил о «большом несоответствии социальных сетей»:
«Одна из больших ошибок эпохи соцсетей в том, что алгоритмы лент имели массу непреднамеренных негативных последствий как для общества в целом, так и для отдельных пользователей. Хотя они делали именно то, что юзер хотел, или что кто-то думал, что хочет — заставляли людей продолжать проводить время на сайте».
Ранее OpenAI запустила специальную версию ChatGPT с родительским контролем для пользователей младше 18 лет.
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!
Источник: forklog.com
Обсуждение: post