Головна Штучний інтелект

Мінцифри дає поради з розроблення безпечних ШІ-продуктів

3 хвилин читання

Міністерство цифрової трансформації спільно з експертами у галузі штучного інтелекту розробило рекомендації для компаній. Це допоможе створювати безпечні ШІ-продукти, йдеться у пресрелізі. 

Поради Мінцифри можуть допомогти компаніям упроваджувати штучний інтелект у свої сервіси та продукти, не порушуючи права людей, авторські права та приватну власність. 

На світовому ринку зростає запит на відповідальний ШІ. Користувачі інноваційних продуктів очікують від компаній проривних AI-рішень, які водночас будуть безпечними для них. Ці рекомендації — практичний гайд для українських розробників, як зберегти градус інноваційності у продуктах та водночас дизайнити рішення, дотримуючись прав людини.
Олександр Борняков, заступник міністра цифрової трансформації

Для створення порад застосували найкращі світові стандарти, що допомагає оцінювати ШІ-системи щодо прав людини. 

Читайте також: Штучний інтелект в Україні давно вийшов за межі лабораторій і технічних конференцій і стає інструментом стратегічної трансформації держави та економіки. Його інтеграція в державні сервіси, освіту та бізнес уже визначає конкурентоспроможність країни.

Підписуйтеся на наші соцмережі

Про що поради з розроблення безпечних ШІ-продуктів

Документ містить підказки, зокрема, щодо того, як компаніям обрати велику мовну модель та адаптувати її до свого бізнесу. 

У рекомендаціях пояснюється, на яких даних потрібно тренувати модель та як їх обробити перед тренуванням, щоб модель працювала без галюцинацій, дискримінації та упереджень.

Крім того, експерти зібрали перелік ключових прав людини та приклади порушень цих прав у ШІ-продуктах.

Застосунок має більш ніж 30 інструментів для розроблення ШІ-рішень, виявлення помилок, аудиту та справедливості у системах. 

Ключові поради з розроблення безпечних ШІ-продуктів

  • Для тренування моделі використовуйте лише ті набори даних, на які маєте законні права, а також перевіряйте, чи є дані збалансованими, повними, знеособленими та нормалізованими.
  • Залучайте користувачів до створення та вдосконалення продукту. Використовуйте ітераційний підхід, у якому ви регулярно тестуєте модель, отримуєте зворотний зв’язок й адаптуєте продукт. Це дає змогу зробити систему справедливішою, кориснішою та точнішою, особливо у чутливих сферах.
  • Забезпечте фаховий людський нагляд, особливо в ухваленні рішень про доступ до послуг, надання кредитів, роботи або освіти, а також у медичній сфері.
  • Враховуйте авторське право. Завжди перевіряйте умови використання моделей і сервісів, а також чи не містить згенерований контент чужих авторських матеріалів.
  • Проєктуйте приватність за замовчуванням і дизайном: мінімізуйте збирання даних, забезпечте шифрування, контроль доступу, логування, право на видалення даних. Користувач має контролювати свою інформацію.

Повний перелік можна подивитися за посиланням.

Інші матеріали

штучний інтелект Мінцифра ШІ-продукти Редакція
Читати на speka.media