В России создали ИИ для обнаружения поддельных документов от ChatGPT

Для противодействия этому вызову российские специалисты разработали инновационную систему, способную автоматически выявлять подделки, созданные такими нейросетями, как ChatGPT и Midjourney. МОСКВА, 16 апреля — РИА Новости. Российские ученые представили первую в стране систему на базе искусственного интеллекта, предназначенную для обнаружения фальшивых документов, сгенерированных зарубежными генеративными моделями, сообщили в компании Smart Engines, занимающейся разработкой данной технологии.

Эта разработка интегрирована в антифрод-систему "Шерлок 3о", которая уже успешно применяется в различных российских государственных структурах, включая Федеральную налоговую службу, а также в крупных транспортных узлах — аэропортах "Внуково", "Шереметьево" и "Кольцово". Кроме того, система используется в кредитных и страховых организациях, что значительно повышает уровень безопасности и доверия к документам. Благодаря применению передовых алгоритмов машинного обучения, новая система способна не только выявлять признаки подделки, но и адаптироваться к постоянно меняющимся методам мошенничества.

Таким образом, внедрение данной технологии становится важным шагом в борьбе с цифровым мошенничеством и подделкой документов, обеспечивая надежную защиту государственных и коммерческих структур. В будущем планируется расширение функционала системы и ее интеграция в другие сферы, где необходим высокий уровень проверки подлинности документов, что позволит значительно снизить риски, связанные с использованием искусственного интеллекта в преступных целях.

Современные технологии стремительно развиваются, и вместе с этим растёт необходимость в надёжных инструментах для выявления поддельного контента. Новейшая система с высокой точностью распознаёт изображения, созданные современными нейросетями, такими как NanoBanana, ChatGPT, Grok, Qwen, Midjourney, Stable Diffusion, Flux и ещё около 20 других, — сообщили представители компании. Эта инновационная технология способна анализировать более 600 параметров документа, что значительно повышает эффективность детекции.

Особое внимание уделено тому, что данное решение ориентировано на корпоративный сектор и государственные службы, которые обязаны строго соблюдать регуляторные нормы, проводить тщательную идентификацию клиентов и предотвращать мошеннические действия. В условиях роста цифровых угроз и совершенствования методов обмана, внедрение таких систем становится критически важным для обеспечения безопасности и доверия пользователей.

В настоящее время технология проходит этап тестирования в банках и микрофинансовых организациях — структурах, наиболее уязвимых к подобным атакам. Результаты испытаний уже демонстрируют высокую эффективность и потенциал для масштабного применения в различных отраслях. В перспективе это позволит значительно снизить риски финансовых преступлений и повысить уровень защиты данных в цифровом пространстве.

В современном мире цифровой безопасности и автоматизации проверка подлинности документов приобретает всё большее значение. Одним из передовых решений в этой области является система, разработанная компанией Smart Engines, которая использует инновационные методы анализа изображений. По словам генерального директора Smart Engines, доктора технических наук Владимира Арлазарова, данная технология способна детально изучать структуру изображений документов, выявляя статистические аномалии и артефакты, которые появляются в процессе генерации или редактирования.

Система работает полностью автоматически, что значительно ускоряет и упрощает процесс проверки. Она способна распознавать признаки коллажирования, вставки посторонних символов и перекрытия важных данных, что позволяет выявлять попытки подделки или изменения документа. Кроме того, технология оценивает качество изображения, обеспечивая высокую точность принятия решений и минимизируя риск ошибочных отказов, что особенно важно для организаций, требующих надежной верификации документов.

Таким образом, внедрение таких интеллектуальных систем анализа изображений способствует повышению уровня безопасности и доверия в цифровом документообороте. Это открывает новые возможности для автоматизации контроля и защиты информации, что становится неотъемлемой частью современных бизнес-процессов и государственных сервисов.

Современные технологии в области редактирования изображений и генеративного искусственного интеллекта стремительно развиваются, открывая новые возможности, но одновременно создавая серьёзные риски для безопасности информации. Как отметил Арлазаров, благодаря этим достижениям сегодня можно создавать поддельные документы, которые визуально практически неотличимы от подлинных. Это может варьироваться от небольших точечных изменений отдельных реквизитов до полной реконструкции изображения с нуля, что значительно усложняет их выявление.

Важно подчеркнуть, что подобные фальсификации теперь не требуют наличия специализированных навыков или сложного технического оборудования. По словам Арлазарова, мы становимся свидетелями так называемой «демократизации мошенничества», когда инструменты для создания подделок становятся доступными широкому кругу пользователей. Это кардинально меняет масштабы и характер угроз: атаки становятся гораздо дешевле, быстрее и могут осуществляться в полностью автоматическом режиме, что значительно увеличивает их количество и сложность противостояния им.

В результате, современные вызовы безопасности требуют новых подходов и технологий для обнаружения и предотвращения подобных фальсификаций. Необходимо развивать методы аутентификации и контроля подлинности документов, а также повышать осведомлённость пользователей о рисках, связанных с поддельной информацией. Только комплексный подход позволит эффективно противостоять растущей угрозе, вызванной прогрессом в области генеративных моделей и инструментов редактирования изображений.

Источник и фото - ria.ru