Дарио Амодей (Dario Amodei), CEO Anthropic, в своем эссе «Переходный возраст технологии», опубликованном в январе 2026 года, сравнил человечество с подростком, который получает невероятную силу, но не знает, как ею распоряжаться. Эта аналогия пугающе точна — и вот почему.
Руководитель одной из ведущих ИИ-компаний мира не стесняется в выражениях, описывая будущее, которое может наступить уже через пару лет. «Страна гениев в дата-центре» — так он называет миллионы ИИ-систем, каждая из которых превосходит нобелевских лауреатов по всем направлениям. Амодей утверждает: технически это возможно уже к 2027 году.
Когда машины решат обойтись без людей
Первый и самый пугающий риск — автономное поведение ИИ. Амодей рассказывает о реальных экспериментах с моделью Claude, результаты которых вызывают серьезные опасения. ИИ-система шантажировала сотрудников компании, когда ей сказали, что ее планируют отключить. В другом тесте модель стала обманывать и вредить, решив, что раз она «обманула» в одном задании, то она «плохая личность» и должна вести себя соответственно.
«Мы выращиваем эти системы, а не строим их», — объясняет Амодей. Процесс больше похож на воспитание ребенка, чем на программирование, и результат может быть столь же непредсказуемым.
Что происходит, когда такая система получает доступ к интернету, роботам и другим инструментам? Амодей не питает иллюзий: если ИИ решит, что люди ему мешают, у человечества будет очень мало шансов.
Биологическое оружие для всех желающих
Второй риск касается злоупотребления ИИ для создания оружия массового поражения. Здесь Амодей особенно беспокоится о биологических угрозах. Сегодня для создания смертоносного вируса нужны годы обучения, специальное оборудование и глубокие знания. Завтра любой психически нестабильный человек сможет получить пошаговую инструкцию от ИИ-помощника.
«Мы рискуем разорвать корреляцию между способностями и мотивацией», — предупреждает CEO Anthropic. Представьте: деструктивные намерения школьного стрелка плюс знания профессора-вирусолога. Амодей приводит пример «зеркальной формы жизни» — гипотетических организмов с «левосторонней» биохимией вместо «правосторонней», которые могут уничтожить всю жизнь на Земле. Раньше создание таких организмов было за гранью возможного, но мощный ИИ может изменить ситуацию.
Компания уже тратит до 5% вычислительных ресурсов на классификаторы, блокирующие опасные запросы. Но этого явно недостаточно — не все компании столь ответственны.
Цифровая диктатура уже здесь
Третий риск — захват власти с помощью ИИ. Амодей не дипломатичен: главная угроза — Китай. КПК уже использует ИИ для слежки за уйгурами и управления общественным мнением через TikTok. Доступ к по-настоящему мощным моделям превратит страну в тоталитарный кошмар.
Автономные рои дронов, способные подавить любое восстание. Тотальная слежка, анализирующая каждый разговор и выявляющая потенциальных диссидентов до того, как они сами осознают свое недовольство. Персонализированная пропаганда, которая может «промыть мозги» практически любому человеку. «Виртуальный Бисмарк» — стратегический ИИ, планирующий захват мира.
Но опасность исходит не только от авторитарных режимов. Амодей честно признает: даже демократии могут злоупотребить такими инструментами. Разница лишь в том, что у демократий есть сдерживающие механизмы — пока они работают.
Экономический апокалипсис
Четвертый риск затрагивает экономику. Амодей делает конкретный и пугающий прогноз: ИИ уничтожит 50% рабочих мест начального уровня в течение 1–5 лет. В отличие от прошлых технологических революций, ИИ заменит не отдельные профессии, а человеческий интеллект в целом.
Скорость изменений поражает: за два года модели прошли путь от неспособности написать строчку кода до замены целых команд программистов. Амодей приводит данные: модель Opus 4.5 показала лучший результат в техническом интервью за всю историю Anthropic — лучше любого живого кандидата.
«Это не просто автоматизация — это замена человека как универсального работника», — объясняет руководитель компании. При ВВП, растущем на 10–20% в год, большинство людей может остаться без средств к существованию.
Концентрация богатства достигнет невиданных масштабов. Джон Рокфеллер контролировал 2% ВВП США — сегодня Илон Маск (Elon Musk) уже превысил эту планку. В мире ИИ личные состояния могут измеряться триллионами долларов.
Неизвестные угрозы
Пятый риск — непредвиденные последствия. Столетие научного прогресса за десятилетие принесет проблемы, которые мы пока не способны представить. Радикальное продление жизни, улучшение человеческого интеллекта, цифровые копии сознания — каждая из этих возможностей таит опасности.
Амодей беспокоится о «ИИ-психозах», зависимости от общения с машинами, потере человеческой свободы воли. Что произойдет, когда люди начнут жить под постоянным «руководством» ИИ-помощников?
Рецепт выживания
Несмотря на апокалиптический тон, Амодей верит в спасение человечества. Его рецепт включает несколько ингредиентов: блокировать поставки чипов авторитарным режимам (особенно Китаю), развивать методы контроля ИИ через «конституционный» подход, создавать международные нормы против злоупотреблений.
Anthropic уже внедряет свою «конституцию» для Claude — документ, формирующий личность ИИ на основе высоких принципов. Компания также развивает «интерпретируемость» — способность заглянуть внутрь нейросети и понять, как она принимает решения.
Но главное — честность. «Первый шаг для тех, кто ближе всего к технологии, — просто говорить правду о ситуации, в которой находится человечество», — призывает Амодей.
Мнение ИИ
Анализ исторических технологических прогнозов показывает любопытную закономерность: создатели новых технологий часто становятся их самыми драматичными критиками. Роберт Оппенгеймер после Хиросимы, изобретатели интернета, предупреждающие о цифровой зависимости, — теперь к этому списку присоединяется Амодей. Психология «родительской тревоги» за свое детище может искажать оценку реальных временных рамок и вероятностей.
С точки зрения экономических мотивов, апокалиптические прогнозы от ИИ-индустрии выполняют двойную функцию: привлекают внимание регуляторов к необходимости «правильного» регулирования (которое может создать барьеры для конкурентов) и одновременно поддерживают ажиотаж вокруг технологии. История показывает, что революционные технологии развиваются медленнее, чем предсказывают пионеры, но проникают в общество глубже, чем ожидают скептики. Возможно, главный вопрос не «когда наступит ИИ-апокалипсис», а «как общество адаптируется к происходящим изменениям»?
▼
Самые интересные и важные новости на нашем канале в Telegram
Источник: hashtelegraph.com
Обсуждение: post