Не доверяй — и проверяй. Почему искусственный интеллект врет и что с этим делать

Abstract

ИИ прочно прописался во многих сферах — от медицины и юриспруденции до финансов и маркетинга. За блестящими возможностями скрывается неприятная особенность: часто нейросети выдают ложь за правду и делают это с такой уверенностью, что подвоха не замечают даже профессионалы. Статистика впечатляет: по данным бенчмарка HalluHard, который тестирует склонность ИИ к галлюцинациям в многоэтапных диалогах, даже самые мощные модели с доступом к интернету ошибаются в 30 процентах случаев. А если отключить веб-поиск, доля вымысла подскакивает до 60 процентов.