Прабхакар Рагхаван: чат-боты с ИИ могут быть опасными для пользователей из-за галлюцинаций

Алгоритмы со временем начинают отвечать на вопросы убедительными, но полностью выдуманными аргументами.
Глава Google Search предупредил пользователей об опасности чат-ботов с ИИ из-за галлюцинаций

Фото:

«Существующий сегодня искусственный интеллект может иногда приходить к тому, что мы называем галлюцинациями», – Прабхакар Рагхаван, возглавляющий Google Search.

Один из топ-менеджеров Google назвал основную сложность при работе с искусственным интеллектом. Это вынуждает с осторожностью относиться к ответам ИИ, похожих на ChatGPT. Потому что ИИ может страдать от галлюцинаций. Такую проблему прямо во время презентации продемонстрировал Bard, который должен был быть конкурентом. Это даже обвалило акции Google.

Как объяснил Рагхаван, возглавляющий поиск Google, искусственный интеллект со временем может давать убедительные, но полностью выдуманные им ответы. На борьбу с этой проблемой уходит много времени и ресурсов. Поэтому в компании не хотят торопиться с выпуском собственного чат-бота. Чтобы в итоге не получилось так, что компания вводит общественность в заблуждение.

* Instagram, Facebook признаны экстремистcкими организациями в России

Понравилась статья? Поделиться с друзьями: