Стартап RagaAI випустить "ліки від галюцинацій" для ШІ
Стартап RagaAI успішно залучив фінансування у розмірі $4,7 млн для розробки програмного забезпечення, яке спрощує виявлення дефектів у нейромережах, повідомляє Bloomberg.
Ці рішення ставлять за мету покращення надійності та безпеки систем штучного інтелекту, вирішуючи проблеми, такі як «галюцинації» та нездатність надати критичну інформацію вчасно.
Що відомо про стартап RagaAI
За стартапом стоїть експрацівник NVIDIA та Texas Instruments, Гаурав Агарвал, який вирішив створити подібні інструменти після інциденту з тестуванням системи автономного водіння в Каліфорнії.
Підписуйтеся на наші соцмережі
В інтерв'ю Bloomberg засновник RagaAI визнавав проблеми нейромереж під час роботи в NVIDIA та Ola.
За його словами, важливо виправляти помилки в роботі систем штучного інтелекту в сценаріях високої відповідальності, таких як діагностика онкологічних захворювань, обслуговування авіаційної техніки та використання штучного інтелекту для підбору персоналу.
Як працює платформа RagaAI для уникнення помилок ШІ
Платформа RagaAI дозволяє корпоративним клієнтам проводити понад 300 тестів, виявляючи слабкі місця в роботі їхніх систем штучного інтелекту.
Вона допомагає виявляти проблеми з розпізнаванням об'єктів, появою «сміття» та хибними даними. Технологія RagaAI також дозволяє блокувати атаки на мовні моделі, спрямовані на змушення їх працювати з помилками.
За словами голови компанії, RagaAI вже співпрацює з численними великими клієнтами у сферах електронної торгівлі, авіації та обробки медичних зображень.
Платформа RagaAI дозволила їм зменшити кількість помилок у роботі своїх систем штучного інтелекту на 90%.