Главная претензия эксперта касается архитектуры современных нейросетей, требующих постоянного интернет-соединения и авторизации в зарубежных системах. Когда коэффициенты модели — так называемые веса — скрыты от пользователя, он теряет контроль над инструментом. Провайдер может в одностороннем порядке отключить функции, поднять стоимость доступа или ограничить работу сервиса в конкретном регионе. Вся инфраструктура обработки данных остается на стороне компании-разработчика, что заставляет пользователя слепо доверять заявлениям о конфиденциальности.
Александр Гостев: закрытые ИИ-модели создают цифровое рабство
Зависимость от американских облачных нейросетей превращает пользователей в заложников корпораций, уверен главный технологический эксперт «Лаборатории Касперского» Александр Гостев. По его мнению, жесткий контроль доступа к весам моделей ограничивает независимость бизнеса и частных лиц, вынуждая их подчиняться правилам провайдера, который в любой момент способен изменить условия использования сервиса.
Гостев настаивает, что будущее индустрии принадлежит открытым весам, которые позволяют разворачивать ИИ локально: на смартфонах, в промышленном оборудовании или закрытых корпоративных сетях. Это единственный способ обеспечить автономность в критически важных отраслях, от медицины до робототехники. Однако эксперт признает обратную сторону медали: открытость несет риски безопасности. Если любой человек может скачать мощный алгоритм на свой компьютер, злоумышленники получают возможность дообучить модель для создания опасных биологических агентов или проведения кибератак без внешнего контроля.
Комментарии (0)
Пока нет комментариев. Будьте первым!