Штучний інтелект не розуміє слово «ні»: яку небезпеку це становить

Дослідники виявили, що навіть найрозвиненіші моделі штучного інтелекту, які поєднують текст і зображення, погано розуміють заперечення і слово «ні». Особливо важливою ця деталь є у сфері медицини. Моделі часто не можуть відрізнити підписи на зразок «є симптоми» та «немає симптомів», що призводить до помилок у діагностиці, пише Nauka.

У межах дослідження протестували десять версій моделі CLIP AI та сучасну AIMV2. Коли йшлося про вибір зображення за умовою «є А, але немає Б», точність моделей знижувалася до 65%, а при розпізнаванні медичних зображень — нижче 40%. Це гірше за випадкове вгадування.

Підписуйтеся на наші соцмережі

Яка причина таких помилок у ШІ?

Причина — позитивне упередження: моделі схильні трактувати всі твердження як ствердні. Навіть додаткове навчання на даних із запереченням покращує результати, але не розв’язує проблему повністю.

Науковці створили спеціальний тест NegBench, який охоплює 79 тисяч прикладів і демонструє, що сучасні візуально-мовні моделі (VLM) все ще не здатні надійно інтерпретувати заперечення.