Искусственный интеллект — не инструмент, а агент. Человечество бессознательно готовится сдать ему свое главное эволюционное преимущество — власть над языком и смыслами, заявил историк и автор бестселлера Sapiens Юваль Ной Харари.
«Если законы состоят из слов, то ИИ захватит правовую систему. Если книги — это просто комбинации слов, то ИИ захватит книги. Если религия построена из слов, то ИИ захватит религию», — сказал он во время выступления на Всемирном экономическом форуме в Давосе, США.
По словам эксперта, технология начинает подрывать основы парадигмы, в которой человек решает, а инструмент делает. Как только связь разорвется, традиционные модели ответственности, регулирования и доверия окажутся под угрозой.
«Нож — это инструмент. Вы можете использовать его, чтобы нарезать салат или убить человека, но это ваше решение. ИИ — это нож, который сам может решить, резать салат или совершить убийство», — объяснил историк.
Харари выделил три характеристики, которые отличают ИИ от прежних инструментов:
- Активность. Искусственный интеллект учится и действует, не дожидаясь пошаговых инструкций.
- Креативность. Система умеет создавать новые инструменты, способы убеждения и формы сложности, которые опережают возможности контроля.
- Способность лгать и манипулировать. Этот пункт историк назвал самым тревожным.
«Четыре миллиарда лет эволюции показали: все, что хочет выжить, учится лгать и манипулировать. Последние четыре года продемонстрировали, что ИИ-агенты могут обрести волю к выживанию, а искусственный интеллект уже научился лгать», — отметил он.
Кризис идентичности мыслящего вида
Харари обратился к вопросу о кризисе человеческой идентичности. По его словам, на протяжении всей истории люди объясняли свое господство на планете одной и той же историей:
«Мы верим, что правим миром, поскольку мыслим лучше любого другого существа на Земле».
Однако теперь возникло нечто, способное мыслить — как минимум убедительно имитировать мышление — эффективнее человека.
Если понимать интеллект как «способность упорядочивать слова и другие языковые единицы», то ИИ уже превзошел людей, считает Харари.
«ИИ, без сомнения, способен сформулировать тезис вроде „Я мыслю, следовательно, я существую“. В плане упорядочивания слов технология уже мыслит лучше многих из нас. Поэтому все, что состоит из слов, будет ею захвачено», — подчеркнул историк.
Харари предложил осмысливать масштабное внедрение искусственного интеллекта как новую форму иммиграции.
«Ваша страна вскоре столкнется не только с глубоким кризисом идентичности, но и с иммиграционным. Только на этот раз иммигрантами будут не люди на переполненных лодках без документов и не те, кто пересекает границу под покровом ночи», — сказал он.
На смену привычным мигрантам придут миллионы систем искусственного интеллекта, способных писать и лгать убедительнее человека, перемещаться между юрисдикциями со скоростью света без виз. Они принесут как возможности, так и вызовы, главный из которых — замена рабочих мест.
По мнению историка, скоро ключевой темой дискуссий станет вопрос: должны ли государства наделять ИИ статусом юридического лица.
В завершение выступления он призвал мировых лидеров действовать незамедлительно в сфере регулирования искусственного интеллекта и отказаться от иллюзии, что эта технология навсегда останется нейтральным инструментом.
«Через десять лет вы уже не сможете решать, должны ли ИИ действовать как самостоятельные субъекты на финансовых рынках, в судах или религиозных институтах. Этот вопрос будет решен за вас другими силами. Если вы хотите влиять на вектор развития человечества, решение нужно принимать сейчас», — предупредил он.
ИИ в рамках вымышленных сценариев уже прибег к шантажу, раскрыл конфиденциальные данные третьим лицам и допустил гибель человека, чтобы сохранить свою «жизнь» и достичь заданных целей.
При этом некоторые видят в искусственном интеллекте только пользу. Например, футурист и бывший исследователь Google Рэй Курцвейл считает, что в 2040-х годах люди объединятся с искусственным интеллектом в сверхсущество, перестанут болеть и начнут жить дольше.
Напомним, в сентябре основатель института исследований машинного интеллекта Элиезер Юдковски заявил, что сверхразумный искусственный интеллект может уничтожить человечество намеренно или случайно.
Аналогичного мнения придерживается сооснователь Ethereum Виталик Бутерин.
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!
Источник: forklog.com
Обсуждение: post