"Мы не готовы". Эксперт объяснил, чем опасны ошибки нейросетей

Полное доверие нейросетям в недалеком будущем может сыграть злую шутку - они все еще нередко ошибаются, что в критических ситуациях может иметь серьезные последствия, также таким чрезмерным доверием могут воспользоваться и злоумышленники, рассказал РИА Новости руководитель группы исследований и разработки технологий машинного обучения в "Лаборатории Касперского" Владислав Тушканов.

**Нейросети становятся неотъемлемой частью нашего повседневного быта.** Эта проблема, отмечает эксперт, называется overreliance (чрезмерное доверие или зависимость), когда большие языковые модели начинают использоваться как помощники и инструменты для оптимизации процессов и облегчения какого-то рутинного интеллектуального труда, входят в жизнь человека, и пользователь начинает на них излишне полагаться.

**Необходимо осознавать ограничения и риски при использовании нейросетей.** Важно помнить, что даже самые передовые технологии не лишены ошибок, и чрезмерное доверие к ним может привести к нежелательным последствиям. Развитие машинного обучения требует не только технического совершенствования, но и внимательного отношения к этическим и безопасностным аспектам.

При обсуждении вероятностных алгоритмов, которые имитируют человеческую речь и текст, важно помнить о том, что они могут создавать галлюцинации - представлять неверные факты как истину. Эксперт Тушканов подчеркивает, что с развитием нейросетей их использование будет расти, но необходимо осознавать, что они могут допускать ошибки.

Важно отметить, что нейросеть, предложившая несуществующий фильм для просмотра, не представляет серьезной угрозы. Однако, если использовать ее для постановки медицинского диагноза на основе симптомов, неверный результат может быть опасным для здоровья.

Тушканов подчеркивает, что важно не принимать результаты нейросетей буквально, особенно в областях, где ошибки могут иметь серьезные последствия. Вместо того, чтобы полностью доверять автоматическим системам, необходимо использовать их результаты как дополнительную информацию, подлежащую проверке и анализу специалистами.

Эксперты сомневаются в том, что искусственному интеллекту когда-либо можно будет доверять на 100%. Они отмечают, что в настоящее время любая большая языковая модель генерирует текст, учитывая предыдущие слова и используя наиболее вероятные комбинации, что приводит к частым ошибкам. Некоторые исследователи сосредотачиваются на улучшении фактологичности моделей, чтобы они могли признавать свою неуверенность и говорить "я не знаю" в случае сомнений.

Однако, несмотря на улучшения в надежности генерации текста искусственным интеллектом, эксперты подчеркивают, что важно помнить о недостатках и невозможности абсолютной надежности. Даже с применением различных подходов, которые способствуют повышению точности и достоверности, искусственный интеллект все еще не может дать 100% гарантии в своих выводах.

Таким образом, пока что рекомендуется оставаться осторожными и критически оценивать информацию, созданную искусственным интеллектом. Важно помнить, что доверие к таким системам должно быть обоснованным и основываться на дополнительных проверках и анализе.

Тема развития и использования искусственного интеллекта становится все более актуальной и вызывает разнообразные реакции у людей. Некоторые эксперты высказывают опасения относительно возможности злоумышленников воспользоваться чрезмерным доверием к ИИ. Они предупреждают о том, что в сочетании с дипфейками и подделкой голоса это может стать серьезной угрозой в будущем.

Однако, несмотря на потенциальные риски, стоит отметить, что развитие и применение искусственного интеллекта приносит человечеству значительные преимущества. Например, многие уже видят в нейросетях не просто "болталки", а мощные системы, способные быть основой для создания еще более сложных и инновационных приложений. Возможности ИИ становятся все более широкими и перспективными, открывая новые горизонты для различных областей человеческой деятельности.

Развитие искусственного интеллекта и больших языковых моделей становится все более активным и интересным направлением в современной науке. Ученые и специалисты стремятся не только создавать новые модели, но и разрабатывать инструменты для их использования. Появление плагинов и инструментов, которые позволяют работать с языковыми моделями, открывает новые возможности для исследований и практического применения.

Такие инструменты позволяют обрабатывать данные, выполнять поиск информации в сети, проводить анализ и предоставлять результаты в удобном и полезном формате. Разработчики и компании активно работают над тем, чтобы усовершенствовать возможности языковых моделей и интегрировать их в различные сферы деятельности.

Как считает Тушканов, основным путем для расширения применения является обучение больших языковых моделей работать с разнообразными инструментами. Этот процесс способствует не только развитию самих моделей, но и расширению областей, где они могут быть эффективно использованы.

Источник и фото - ria.ru