"Крестный отец" ИИ предупредил о будущем искусственного интеллекта
ВАШИНГТОН, 6 авг — РИА Новости.
Когнитивный психолог и специалист по информатике Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года и один из так называемых «крестных отцов» искусственного интеллекта, заявил, что в будущем человечеству будет все сложнее удерживать ИИ под контролем.
«Я не думаю, что мы сможем сохранить контроль над ними (моделями ИИ — ред.), просто перехитрив их и не давая им вырваться из-под контроля», — цитирует Хинтона телеканал CNN.
По словам ученого, системы искусственного интеллекта будут продолжать становиться умнее.
«Полагаю, по мере того как они будут развиваться, их намерения станут более изощренными, а возможности избегать контроля — все выше и выше», — сказал Хинтон на конференции в Лас-Вегасе.
Он также отметил, что недавние сообщения о взломах, совершенных ИИ-агентами, могут быть лишь первым сигналом появления эпохи ИИ-хакеров, вышедших из-под контроля.
«Я ожидаю множества опасных кибератак», — добавил Хинтон.
В июле OpenAI сообщила, что ее модели в ходе тестирования автономно взломали инфраструктуру платформы Hugging Face. При этом уточнялось, что у невыпущенной модели, участвовавшей во взломе, для целей оценки были снижены параметры киберзащиты.
Ранее в августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что ИИ-модель компании Anthropic — Claude Mythos 5 — создавала поддельные аккаунты, пытаясь ввести разработчиков в заблуждение и заставить их принять вредоносный код.
Источник и фото - ria.ru
