IT-эксперт Волынец: ИИ нельзя полностью доверять в медицине и финансах

Эксперт по внедрению нейросетей Игорь Волынец рассказал о рисках использования приложений с искусственным интеллектом.

В беседе с «Газетой.Ru» он отметил, что главной проблемой остаётся чрезмерное доверие пользователей к таким технологиям.

«Существует главная проблема — это слишком сильное доверие пользователей к результатам работы ИИ.

Популярность нейросетей создаёт ощущение точности и надёжности, хотя внутри моделей нет механизма гарантированной проверки достоверности ответа», — заявил Волынец.

По его словам, наибольшую опасность ошибки представляют в финансовых, медицинских и юридических сервисах, где неточности могут привести к серьёзным последствиям.

«С технической точки зрения подавляющее большинство приложений на базе LLM не обладают системой валидации ответов. То есть модель генерирует результат на основе вероятностей и фактически не проверяет данные перед ответом», — объяснил эксперт.

Он добавил, что дополнительный риск связан с обработкой персональных данных, поскольку многие приложения запрашивают избыточные доступы.

Ранее врач-терапевт, иммунолог Ирина Ярцева в беседе с НСН заявила, что нейросети в медицине могут помогать специалистам быстрее обрабатывать данные, но не заменяют врача при постановке диагноза.