ИИ-вирусы уже рядом: компактные нейросети научились самостоятельно заражать умные духовки и ТВ-приставки
Американский ИИ-разработчик Anthropic выступил с тревожным предупреждением по итогам собственных закрытых экспериментов. Специалисты компании выяснили, что уже в ближайшие месяцы в мире могут появиться компактные модели искусственного интеллекта, способные самостоятельно распространяться между устройствами интернета вещей (IoT).
Под угрозой окажется самая обычная бытовая техника от умных духовок до бюджетных телевизионных приставок на базе операционной системы Android.
По оценке разработчиков, остановить лавинообразное распространение таких автономных ИИ-систем будет чрезвычайно сложно. У них полностью отсутствует единый центр управления или сервер, который можно было бы оперативно заблокировать или отключить.
В ходе практических испытаний вредоносная модель успешно выполнила задачи вывода и закрепилась на восьми из девяти протестированных типов бытового оборудования.
Инженеры Anthropic призвали мировое технологическое сообщество экстренно укреплять базовую защиту потребительских гаджетов и готовиться к сценарию, при котором подобные автономные нейросети превратятся в постоянную и неискоренимую угрозу для цифровой инфраструктуры.