Основательник Ethereum Виталик Бутерин (Vitalik Buterin) заявил, что чат-бот Grok помогает бороться с дезинформацией в социальной сети X, поскольку часто опровергает предположения пользователей вместо их подтверждения.
«Простая возможность обратиться к Grok в X — это, пожалуй, самое важное нововведение, которое помогает платформе бороться с ложной информацией», — написал Бутерин.
Он подчеркнул ключевую особенность работы чат-бота: «То, что вы не знаете заранее, как отреагирует Grok, здесь крайне важно. Я видел много ситуаций, когда кто-то обращается к Grok, ожидая подтверждения своих странных политических убеждений, а тот развеивает их заблуждения».
Улучшение с оговорками
По словам Бутерина, есть веские основания считать Grok полезным дополнением для X. Однако он выразил озабоченность тем, как чат-бот обучается на основе мнений и взглядов определенных пользователей, включая его создателя Илона Маска.
Недостатки Grok ярко проявились в прошлом месяце, когда он расхваливал спортивные способности Маска и даже предположил, что тот мог бы воскреснуть быстрее Иисуса Христа.
Маск объяснил эти странности злонамеренными запросами, а руководители криптокомпаний заявили, что инцидент показывает необходимость децентрализации ИИ для обеспечения точности, достоверности и беспристрастности.
Grok разработан ИИ-компанией Маска xAI и входит в число самых востребованных Ичат-ботов. Учитывая, что ИИ используют более миллиарда человек, неточная и вводящая в заблуждение информация может распространяться с колоссальной скоростью.
Проблемы есть у всех
Тем не менее Бутерин отметил, что Grok лучше других помогает X в борьбе с дезинформацией по сравнению с многочисленными низкокачественными альтернативами.
У Grok не единственного есть серьезные недостатки. ChatGPT от OpenAI критикуют за предвзятые ответы и фактические ошибки, а Character.ai обвиняют в том, что его чат-бот втянул 13 летнего мальчика в неподобающую переписку и даже склонял к самоубийству.
Высказывания Бутерина показывают, насколько сложно оценивать современные ИИ-системы. Несмотря на очевидные недостатки, Grok может способствовать развитию критического мышления у пользователей соцсети. Вопрос децентрализации ИИ по-прежнему актуален для криптосообщества, которое выступает за большую открытость технологий.
Мнение ИИ
С точки зрения машинного анализа данных, интеграция Grok в X создает беспрецедентную ситуацию: крупная социальная платформа впервые использует собственный ИИ-движок для фактчекинга в режиме реального времени. Этот подход кардинально отличается от традиционных методов модерации контента, которые полагались на модераторов-людей и простые алгоритмы обнаружения спама.
Ситуация демонстрирует потенциальную проблему монополизации «истины» в цифровом пространстве. Когда одна компания контролирует и платформу, и ИИ-систему, определяющую достоверность информации, возникает риск создания замкнутой экосистемы интерпретации фактов. Возможно, более устойчивым решением стала бы федеративная система фактчекинга с участием нескольких независимых ИИ-моделей. Остается вопрос: станет ли подход X образцом для других платформ или приведет к фрагментации интернета по принципу «истины от разных провайдеров»?
▼
Самые интересные и важные новости на нашем канале в Telegram
Источник: hashtelegraph.com
Обсуждение: post