AI почав допомагати створювати наступне покоління AI
Штучний інтелект уже допомагає не лише людям виконувати роботу — він дедалі активніше бере участь у створенні наступного покоління самого AI, пише Reuters.
Компанія Anthropic повідомила, що її модель Claude у серпні вже «лідирував» у 26% роботи з дослідження та розробки AI всередині компанії. У березні цей показник становив лише близько 1%.
Водночас повністю автономно Claude поки не працює в жодній із категорій, які вимірювала компанія. Йдеться про роботу під наглядом людей.
Що саме робить Claude
Anthropic оцінювала роботу своїх AI-систем за спеціальною шкалою, розробленою Epoch AI.
На одному з рівнів AI вже може виконувати більшу частину завдання від початку до кінця після загальної вказівки людини. Людина при цьому залишається наглядовцем. Саме цей рівень Anthropic називає «AI leads».
За даними компанії, у серпні Claude досяг такого рівня у 26% роботи, пов'язаної з дослідженням і розробкою AI. Ще більш показова цифра — понад 90% роботи в цій сфері вже відбувається за участю AI, тобто люди працюють разом із моделями.
Ще в березні було близько 1%
Підписуйтеся на наші соцмережі
Швидкість змін у цьому показнику особливо помітна, якщо порівняти його з початком року.
У березні частка роботи, яку Claude виконував на рівні «лідера», становила менше 1%. За кілька місяців вона зросла до 26%. Anthropic попереджає, що ці цифри не варто сприймати як точний прогноз майбутнього. Водночас компанія планує регулярно публікувати подібні вимірювання, щоб показувати, наскільки швидко AI стає частиною самого процесу розробки AI.
Фактично формується досить незвична ситуація: люди створюють AI, який допомагає їм створювати наступний AI.
Всередині Anthropic одночасно працюють 30 тисяч AI-агентів
Масштаб використання агентів у компанії також вражає. За даними Anthropic, у серпні на її основній внутрішній платформі одночасно працювали близько 30 тисяч AI-агентів, які виконували завдання з досліджень та інженерії.
Це не означає, що 30 тисяч роботів самостійно розробляють нову модель. Anthropic підкреслює, що агенти працюють у системі обмежень та моніторингу. Кожна їхня дія проходить через автоматичний контроль перед виконанням. Компанія проаналізувала понад мільярд рішень агентів за серпень і повідомила, що приблизно одне рішення з 47 тисяч було заблоковане моніторингом.
AI вже допомагає розробляти AI
Anthropic вимірювала не абстрактну «корисність» Claude, а конкретні завдання у власному циклі розробки моделей.
Для цього компанія взяла роботу співробітників за липень і розклала її приблизно на 15 тисяч окремих завдань. Серед них — робота з навчанням моделей, reinforcement learning, інфраструктурою та тестуванням.
Потім ці завдання класифікували за складністю та визначили, яку частину роботи виконує AI. Це дає змогу побачити не просто кількість запитів до чат-бота, а те, наскільки глибоко AI проникає безпосередньо в процес створення нових моделей.
Чи означає це, що AI скоро стане автономним
Anthropic прямо зазначає, що Claude не працює повністю автономно в жодній із вимірюваних категорій AI-досліджень і розробки.
Більше того, компанія визнає, що її методика має обмеження. Наприклад, частину оцінювання виконують самі AI-моделі, а це створює ризик помилок під час оцінки. Anthropic пропонує в майбутньому залучати незалежних оцінювачів і створювати спільні методики, щоб результати різних AI-лабораторій можна було порівнювати.
Тому цифра у 26% не означає, що Claude вже «замінив» чверть інженерів Anthropic. Вона показує інше: AI дедалі активніше переходить із ролі інструмента для програміста чи дослідника в роль учасника самого процесу розробки нових AI-систем.
На безпеку теж витрачають обчислювальні ресурси
Anthropic окремо повідомила, скільки обчислювальних ресурсів витрачає на дослідження безпеки AI.
У випадково вибраному тижні липня близько 6% обчислювальної потужності, яку компанія використовувала для AI-досліджень, припадало на роботу з безпекою.
Для досліджень, які виконував сам AI, ця частка становила близько 12%. Anthropic зазначає, що це консервативна оцінка: якщо одна й та сама робота одночасно покращувала можливості моделі та її безпеку, її зараховували до роботи над можливостями.