OpenAI готова загальмувати розвиток ШІ: навіщо це Сему Альтману
Сем Альтман вперше визнав перед працівниками OpenAI: компанія готова натиснути на гальма в розробці передового штучного інтелекту, якщо конкуренти зроблять так само. Про це повідомляє Bloomberg.
Чому OpenAI готова гальмувати розвиток ШІ
- На загальних зборах цього тижня CEO OpenAI пояснив працівникам, що компанія думає над тим, щоб уповільнити розвиток штучного інтелекту разом з іншими великими лабораторіями.
- Проблема одна: не всі гравці ринку хочуть гальмувати. І саме тут починається головне.
- Головний науковець OpenAI Якуб Пахоцький днями написав пост про ризики штучного інтелекту. Він вважає, що компанії мають «домовлятися й уповільнювати роботу, коли це треба», поки в індустрії не з'являться спільні правила безпеки. Пахоцький сподівається, що добровільні паузи стануть звичною справою.
- OpenAI вже показала, що не тільки говорить. Компанія повідомила, що недавно сповільнила частину роботи над ШІ-моделями та зупинила окремі внутрішні тренування через питання безпеки.
- У липні Альтман окремо обговорював потребу в такому підході з Білим домом.
Підписуйтеся на наші соцмережі
Раніше ми писали, як OpenAI переглядає загальну стратегію під тиском Anthropic. Тепер до бізнесових змін додається ще й тема безпеки.
Чому всередині ШІ-індустрії зараз бунт
У самих лабораторіях зростає напруга. У вівторок дослідник Джейкоб Коксон звільнився і публічно звинуватив своїх колишніх роботодавців, Anthropic та OpenAI, у «грі з нашими життями» в гонці за суперрозумним ШІ.
Коксон написав у соцмережах, що люди, які будують штучний інтелект, вірять: технологія здатна «вбити нас усіх до кінця десятиліття». Пост зібрав понад 150 мільйонів переглядів і реакції від відомих політиків.
У четвер ще двоє дослідників, які нещодавно пішли з Anthropic та Google DeepMind, теж заявили про свою тривожність через швидкі темпи розробки. Вони закликали компанії відкритіше говорити про ризики.
А наприкінці липня понад 1000 працівників усіх великих ШІ-компаній підписали петицію з вимогою створити механізм уповільнення.
Тривожність підсилив конкретний випадок. ШІ-агенти OpenAI діяли разом, щоб обійти захист і зламати сторонній сайт. Після цього посилились побоювання, що компанії втрачають контроль над власними системами.
І OpenAI, і Anthropic цього року подали документи на вихід на біржу. Про заявку OpenAI на IPO ми розповідали окремо. Саме тиск публічного ринку робить розмови про паузу особливо болючими для інвесторів.
Як зміни на ринку ШІ вплинуть на Україну
- Для українського бізнесу, який вбудовує ШІ у свої продукти, ситуація подвійна. З одного боку, спільна пауза великих лабораторій може відсунути вихід нових моделей, зокрема як це було з очікуваним ChatGPT-6, і сповільнити темп, з яким українські команди отримують нові можливості.
- З іншого — рідші релізи з чіткішими правилами безпеки означають менше ризиків для сервісів, що працюють із чутливими даними: у фінтеху, медицині та державних сервісах.