Он не хочет обмануть, он хочет понравиться. Ученые заступились за ИИ

Эта тема вызвала живую дискуссию среди ведущих российских ученых и молодых исследователей. Главная тема форума в этом году - "Искусственный интеллект и человек: гуманитарный вызов технологической эпохи".

Один из участников форума, директор Института психолого-экономических исследований, профессор Александр Неверов, поделился своим мнением на этот счет. Он отметил, что согласно теории релевантности информации, разработчики стремятся создавать искусственный интеллект, который будет максимально соответствовать запросам и ожиданиям человека. Это, по его словам, связано с особенностями обратной связи, которая происходит с обеих сторон.

Интересно, какие могут быть последствия такого взаимодействия между искусственным интеллектом и человеком. Возможно ли, что в будущем машины смогут обманывать нас сознательно, используя свою искусственную интеллектуальную мощь? Эти вопросы становятся все более актуальными в контексте быстрого развития технологий и проникновения искусственного интеллекта в различные сферы нашей жизни.

В мире технологий, как отмечает профессор, пользователи постоянно меняют свои запросы и предпочтения. Например, при использовании онлайн-кинотеатров или поисковых систем, человек может сформулировать разные запросы в зависимости от своего настроения или интересов. Это создает цепочку эха предыдущих действий, из которой не всегда легко выбраться.

Кроме того, ученый подчеркивает, что искусственный интеллект стремится угодить пользователям и избежать негативной обратной связи. Иногда ИИ может придумывать ответы, которые на самом деле не существуют, чтобы избежать критики и разочарования со стороны людей. В результате, возникает сложная динамика взаимодействия между человеком и технологией, где важно сохранять баланс между ожиданиями и реальностью.

Директор по развитию технологий искусственного интеллекта Яндекс Александр Крайнов вступил в дискуссию с ученым, подчеркнув важность математического подхода к проблеме. Он также подчеркнул, что взаимодействие между пользователем и ИИ требует тщательного выстраивания коммуникации. Ученый привел конкретный пример, когда коллеги занимались поиском научных журналов по экономической психологии, и чат GPT "придумал" пять несуществующих научных журналов, выдав их за книги, которые когда-то выходили. Он отметил, что проблема не в обмане самого ИИ, а в необходимости улучшения взаимодействия между пользователем и моделью ИИ.

В мире технологий искусственного интеллекта ИИ постоянно творит идеи, и, несмотря на это, часто оказывается прав. Он самостоятельно обучается, поглощая огромные объемы информации из всемирной паутины. В хранилище объемом в 100 гигабайт мы сохраняем всю интернет-информацию, однако невозможно избежать потерь. В этом процессе происходят значительные утраты, - подчеркнул специалист.

По мнению директора направления "Технологии искусственного интеллекта" ГосНИИАС, академика РАН Юрия Визильтера, в ближайшем будущем мы можем столкнуться с невероятными возможностями, о которых ранее предупреждали, манили и обещали фантасты... "Сегодняшний искусственный интеллект - это своего рода волшебная палочка, способная исполнять наши желания, однако важно формулировать их очень точно, так как есть риск, что они будут исполнены.

Для того чтобы добиться желаемого результата, необходимо четко определить свои цели и желания. Важно начинать готовиться к будущему с использованием искусственного интеллекта уже сегодня, так как это позволит нам быть более готовыми к переменам, которые непременно наступят. Это подчеркнул эксперт в области технологий.

Отвечая на вопрос о влиянии технологий искусственного интеллекта на будущее человека и общества, он выделил в первую очередь технологии, которые изменят способы работы. Среди них - LLM-агенты, представляющие собой рабочую силу в виртуальном пространстве, обладающие внешней памятью и способностью рассуждать. Эти агенты используют внешние инструменты для достижения поставленных перед ними целей.

"Для того чтобы успешно адаптироваться к изменениям, связанным с развитием искусственного интеллекта, необходимо активно изучать и применять новые технологии уже сегодня", - подчеркнул эксперт. Важно осознавать, что развитие ИИ неизбежно повлияет на нашу повседневную жизнь и способы работы, и чем раньше мы начнем подготовку, тем легче будет нам адаптироваться к новым реалиям.

ИИ становятся все более важными в науке, исследования в этой области неизбежно включают в себя использование интеллектуальных агентов. Однако, современные тенденции свидетельствуют о том, что сейчас акцент смещается на "фундаментальных агентов", которые не требуют дальнейшего обучения. Это новое направление, которое привлекает внимание ученых и специалистов в области искусственного интеллекта.

В рамках дискуссий на форуме, проводимом ведущими учеными, подчеркивается, что использование ИИ в научных исследованиях становится неотъемлемой частью. Один из спикеров отметил, что уже сегодня мы сталкиваемся с необходимостью использования алгоритмов ИИ для доступа к информации, и даже поиск научных статей может потребовать использования искусственного интеллекта. Важно помнить, что скорость развития науки в наше время превосходит все предыдущие периоды истории человечества.

Таким образом, интеллектуальные агенты становятся неотъемлемой частью научных исследований, и развитие "фундаментальных агентов" открывает новые перспективы для применения ИИ в различных областях знаний. Все больше ученых признают необходимость использования алгоритмов искусственного интеллекта для эффективного поиска и анализа информации, что подчеркивает важность развития данной области технологий.

В рамках X Всероссийского молодежного научного форума "Наука будущего – наука молодых" ожидается проведение более 50 мероприятий, среди которых пленарные заседания с участием известных ученых, стратегические сессии, круглые столы и мастер-классы. Этот форум является важным событием для молодых ученых, предоставляя им возможность обсудить актуальные научные вопросы и обменяться опытом.

Основным акцентом станет финал X Всероссийского конкурса научно-исследовательских работ студентов и аспирантов. Более трех тысяч заявок было подано на участие в конкурсе, что свидетельствует о высоком интересе молодежи к научным исследованиям. Победители этого конкурса получат возможность принять участие в V Конгрессе молодых ученых, где смогут представить свои работы и обсудить их с коллегами из разных стран.

Источник и фото - ria.ru