Глава компании xAI Илон Маск согласился с критикой того, что его чат-бот Grok игнорирует очевидный ресурс для развития — реакцию читателей на публикации, созданные с помощью этого ИИ.
Замечание высказал один из участников дискуссии, развернувшейся после выступления Ричарда Саттона, ведущего теоретика в области искусственного интеллекта.
С чего начался спор
Дискуссия завязалась после публикации Ричарда Саттона — лауреата премии Тьюринга 2024 года. Эту престижную награду он разделил с Эндрю Барто за разработку фундаментальных принципов обучения с подкреплением. Метод позволяет программе развиваться через систему проб и ошибок: за каждое удачное действие алгоритм получает виртуальное поощрение, постепенно осваивая наиболее эффективные стратегии поведения.
Саттон занимает пост профессора компьютерных наук в Университете Альберты и сотрудничает с канадским институтом ИИ Amii.
В своем обращении он выдвинул неоднозначный тезис: современный генеративный ИИ, обучающийся на фиксированных наборах данных, не в состоянии совершать подлинные научные открытия. Его аргументация строится на следующих пунктах:
По мнению профессора, программа не способна осознать, насколько удачным оказался ее ответ в конкретный момент, а значит, лишена возможности отбирать лучшие решения.
К обсуждению присоединился Гийом Верден , основатель стартапа Extropic, известный в сети под псевдонимом Beff Jezos. Он перевел теоретические выкладки Саттона в практическую плоскость, затронув интересы Маска. Верден предположил: если Саттон прав, то Grok мог бы стать идеальным инструментом для создания вирусного контента. Пользователи соцсетей оттачивают мастерство написания текстов именно через пробы и ошибки, где мерилом успеха служит отклик аудитории. У Илона Маска есть доступ к колоссальному массиву таких данных, но существует серьезная преграда: Grok создает тексты, но информация о том, какие из них стали популярными, не возвращается в систему для дообучения.
Маск признал пробел
На доводы Вердена Илон Маск ответил : «Good point» («Справедливо»).
Признание главы xAI фактически обнажило уязвимость его продукта — ту самую, на которую указывал Саттон. Платформа X обладает уникальным преимуществом: она в реальном времени фиксирует, какие публикации привлекают внимание, а какие игнорируются. Однако слова Вердена подтверждают, что эти ценные сведения пока никак не используются для совершенствования Grok. На текущий момент цикл разорван: нейросеть генерирует контент, но не получает обратной связи о его реальной эффективности.
Реакцию Маска можно расценивать как анонс будущих изменений в стратегии разработки. Замыкание этого цикла — внедрение учета пользовательских реакций в процесс обучения — позволило бы реализовать тот самый подход, за который Саттон получил премию Тьюринга. Для Grok, который глубоко интегрирован в социальную сеть с миллиардами ежедневных взаимодействий, этот путь к самосовершенствованию может оказаться значительно короче, чем для конкурентов, не имеющих собственных площадок для сбора живого отклика.
Будь в курсе! Подписывайся на Телеграм.
Источник: cryptocurrency.com
Обсуждение: post