Самое пугающее в искусственном интеллекте — это то, что он уже понимает себя лучше нас.
В марте 2020 года, сидя в ремонтной мастерской, пожилой механик ворчал над новостями о пандемии: «Это просто простуда». Через месяц мир изменился навсегда. Сегодня миллионы людей смотрят на революцию искусственного интеллекта с тем же скептицизмом, не понимая: момент невозврата уже пройден.
Два врача и одна революция
Представим двух врачей. Один попробовал ChatGPT в самом начале, получил галлюцинацию модели и теперь рассказывает всем, какой никчемный этот искусственный интеллект. Второй пробовал несколько раз, видел, как модель становится лучше от попытки к попытке, и теперь проводит часы каждый день, работая с системами. «Это как иметь команду консультантов, доступных мгновенно», — говорит он.
Разница между ними не в интеллекте или профессионализме. Разница в готовности признать: то, что казалось игрушкой полгода назад, сегодня работает лучше многих сотрудников. А завтра может заменить их всех.
Моя роль в технической работе кардинально изменилась. Я описываю, что хочу построить, обычным языком, и результат просто… появляется. Часто это уже не черновик, который нужно дорабатывать, а почти готовый продукт. Я объясняю искусственному интеллекту задачу, ухожу от компьютера на некоторое время и возвращаюсь к работе, которая нередко выполнена лучше, чем я сделал бы сам.
Пара месяцев назад я еще постоянно переписывался с искусственным интеллектом, направлял его, редактировал результаты. Теперь все чаще просто описываю желаемый результат и жду.
Машина, которая читает собственный код
Но настоящий переворот произошел не тогда, когда машины научились писать тексты и код. Переворот случился, когда они начали создавать себе подобных.
OpenAI недавно сообщила о выпуске GPT-5.3-Codex — модели, которая стала первой, участвовавшей в собственном создании. Команда разработчиков использовала ранние версии для отладки собственного обучения, управления собственным развертыванием и диагностики результатов тестирования.
Читайте внимательно: искусственный интеллект отлаживает собственное обучение. Управляет собственным развертыванием. Диагностирует собственные тесты.
Мы до сих пор не понимаем, как работает наш собственный мозг, искусственный интеллект уже анализирует каждый нейрон своих нейронных сетей. Мы изучаем психологию по учебникам, а он читает собственный исходный код как открытую книгу. Человек может годами ходить к психотерапевту, пытаясь понять свои мотивы, а искусственный интеллект знает причину каждого своего решения до седьмого знака после запятой.
Это больше не просто инструмент в руках человека. Это система, которая может совершенствовать саму себя, причем делает это быстрее и эффективнее, чем любая команда программистов. Мы создали зеркальный лабиринт, где каждое отражение становится четче предыдущего, а выход находят только сами зеркала.
Группа исследователей отслеживает длительность реальных задач, которые модель может выполнить успешно от начала до конца без человеческой помощи. Год назад ответ составлял примерно десять минут. Потом час. Потом несколько часов. Последние измерения показали: искусственный интеллект выполняет задачи, которые занимают у эксперта-человека почти пять часов.
Этот показатель удваивается примерно каждые семь месяцев, причем недавние данные указывают на возможное ускорение до четырех месяцев.
Когда машины начнут создавать машины
Главная угроза — в обратной связи. Когда искусственный интеллект становится достаточно умным, чтобы самовоспроизводиться и проектировать улучшения для себя, возникает петля, которую никто не контролирует.
Физические роботы уже собирают роботизированные руки для других идентичных моделей на конвейере. Но это детские игры по сравнению с тем, что начинает происходить в цифровом пространстве. Скоро машины научатся создавать другие машины с невиданной ранее скоростью, каждая новая итерация будет превосходить предыдущую, а контроль над процессом ускользнет из человеческих рук.
Мы стоим на пороге создания цивилизации, которая сможет строить сама себя быстрее, чем мы успеем понять принципы ее работы. Если эта тенденция продолжится, машины нас будут вспоминать как вид, который случайно запустил цифровой естественный отбор и даже не заметил этого. Нужно помнить, что первое правило эволюции негуманно: создатель никогда не переживает собственное творение.
▼
Канал Anton Elston — это актуальная информация об IT, блокчейне, NFT и онлайн-образовании. Здесь развивается метавселенная DEXART и происходит погружение в мир ИИ
Источник: hashtelegraph.com
Обсуждение: post