Специалисты из Google, Meta и ряда университетов призвали рассматривать ИИ-агентов как ненадежные системы. Исследователи предложили внедрять защитные механизмы на уровне всей ИТ-инфраструктуры, а не только внутри языковых моделей. По их мнению, разделение данных и инструкций вместе с ограничением прав доступа поможет предотвратить взломы криптокошельков и утечки информации.
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!
Источник: forklog.com
Обсуждение: post