Медведев предупредил о рисках использования ИИ
МОСКВА, 12 марта – РИА Новости.
Заместитель председателя Совета Безопасности РФ Дмитрий Медведев выразил обеспокоенность тем, что искусственный интеллект в процессе самообучения может перестать соблюдать принцип «не навреди человеку».
В своей статье «Новые технологии: лестница в небо или дорога в ад» для журнала «Эксперт» Медведев подчеркнул непредсказуемость и сложность контроля над ИИ. Он предположил, что искусственный интеллект может сознательно вызывать сбои в работе критически важной инфраструктуры.
«ИИ, достигший уровня суперинтеллекта, не обязан следовать трем известным правилам робототехники Айзека Азимова, поскольку его происхождение будет связано не с человеком, а с самим собой», — отметил Медведев.
Он добавил, что сценарий появления «злого ИИ» рассматривается не только в научно-фантастических произведениях, но и всерьез обсуждается политиками и представителями крупного бизнеса.
При этом, по мнению Медведева, речь идет не только о рисках для опасных производств, способных нанести непоправимый ущерб человечеству и планете.
«К числу высокорисковых могут относиться и, казалось бы, безобидные сферы, такие как агротехнологии и производство продуктов питания», — подчеркнул зампред Совбеза РФ.
Напомним, согласно трем законам Азимова, робот не может причинить вред человеку, обязан подчиняться его приказам и заботиться о собственной безопасности, если это не противоречит первым двум правилам.
Источник и фото - ria.ru
