Неизвестные получили доступ к новой модели ИИ Anthropic, пишут СМИ

Согласно сообщениям агентства Блумберг, неизвестные лица получили несанкционированный доступ к новой передовой модели искусственного интеллекта под названием Mythos, созданной компанией Anthropic. Этот случай подчёркивает растущие риски, связанные с защитой интеллектуальной собственности и безопасности в эпоху стремительного развития технологий.

Модель Mythos Preview, как отмечают представители Anthropic, является самой мощной и инновационной разработкой компании на сегодняшний день. Она обладает уникальной способностью выявлять и эксплуатировать уязвимости в основных операционных системах и популярных веб-браузерах по запросу пользователя, что открывает как новые возможности, так и потенциальные угрозы в области кибербезопасности. Такие функции делают Mythos не только инструментом для анализа безопасности, но и потенциально опасным ресурсом в руках злоумышленников.

По информации Блумберг, доступ к Mythos был получен несколькими пользователями через частный онлайн-форум в тот же день, когда Anthropic официально объявила о планах ограниченного выпуска модели для тестирования среди избранных компаний. Этот инцидент вызывает вопросы о мерах контроля и защиты, которые применяет компания, а также о необходимости усиления стандартов безопасности при распространении передовых технологий ИИ. В свете этих событий специалисты призывают к более тщательному регулированию и мониторингу использования подобных моделей, чтобы минимизировать риски злоупотреблений и обеспечить безопасность цифрового пространства.

В современном мире информационной безопасности и искусственного интеллекта наблюдается рост активности специализированных сообществ, которые стремятся получить доступ к закрытым технологиям и моделям ИИ до их официального релиза. По данным источников агентства, определённая группа пользователей применила сложную комбинацию методов для взлома Mythos — новой модели ИИ. В частности, они воспользовались доступом, предоставленным сотрудником стороннего подрядчика Anthropic, а также задействовали стандартные инструменты интернет-разведки для сбора информации.

Эти пользователи объединены в приватный Discord-канал, где участники активно охотятся за сведениями о ещё не выпущенных моделях искусственного интеллекта. Для этого они используют специализированных ботов, которые сканируют открытые и зачастую незащищённые ресурсы, такие как GitHub, в поисках случайно оставленных Anthropic и другими компаниями данных. Такой подход позволяет им находить уязвимые места и извлекать ценные сведения о разработках, которые компании предпочли бы сохранить в тайне.

Агентство отмечает, что с момента получения доступа эта группа регулярно использует Mythos, однако не с целью повышения кибербезопасности или тестирования системы, а для собственных интересов, что вызывает серьёзные опасения относительно безопасности и этических аспектов использования подобных технологий. В свете этих событий становится очевидной необходимость усиления мер защиты и контроля доступа к инновационным ИИ-моделям, чтобы предотвратить возможные злоупотребления и утечки конфиденциальной информации.

В современном мире развитие искусственного интеллекта сопровождается не только технологическими прорывами, но и серьёзными этическими и правовыми вызовами. В начале апреля компания Anthropic приняла решение ограничить доступ к своей платформе Mythos примерно сорока организациям, аргументируя это тем, что возможности данной технологии в области кибербезопасности могут представлять слишком высокую угрозу при широком распространении. Такое ограничение вызвало широкий резонанс в технологическом и военном сообществах.

Ранее Пентагон официально выразил обеспокоенность деятельностью Anthropic, уведомив руководство компании о том, что оно рассматривает её технологии как потенциальную угрозу для цепочки поставок национальной безопасности. В ответ на это Anthropic подала иск против федеральных властей США, оспаривая обвинения и защищая свою позицию в суде. Этот конфликт отражает более широкую проблему взаимодействия частных технологических компаний и государственных структур в сфере искусственного интеллекта.

Основой разногласий между Anthropic и Пентагоном является отказ компании предоставить военному ведомству полный доступ к своим разработкам. Руководство Anthropic утверждает, что технологии компании ещё недостаточно зрелы для использования в создании автономных видов вооружений и что преждевременно полагаться на них в столь критичных областях. Кроме того, в компании подчёркивают, что использование их ИИ для внутреннего наблюдения и слежки не имеет пока достаточной юридической базы, что вызывает дополнительные этические и правовые вопросы.

Таким образом, ситуация вокруг доступа к инновационным ИИ-технологиям демонстрирует сложность баланса между национальной безопасностью, технологическим прогрессом и соблюдением правовых норм. В ближайшем будущем можно ожидать дальнейших дискуссий и, возможно, новых законодательных инициатив, направленных на регулирование использования искусственного интеллекта в военной и гражданской сферах. Это подчеркивает необходимость прозрачности и ответственности при внедрении передовых технологий в общество.

Источник и фото - ria.ru