Зростаюча кількість стартапів з багатомільярдною оцінкою змагається у створенні кращих моделей ШІ, здатних виконувати завдання від програмування та музики до юридичної роботи. Генеральний директор стартапу Goodfire Ерік Хо вважає, що розвиток ШІ відбувається занадто швидко.
«Я думаю, те, що ми робимо зараз, досить безрозсудно», — сказав він. «Як ми можемо довіряти та покладатися на те, чого не розуміємо?»
Оскільки робота ШІ у великій мірі залишається загадкою навіть для розробників, Goodfire зосереджений на вивченні моделей ШІ, щоб зрозуміти, що вони насправді роблять, і використати ці знання для покращення технологій. Стартап щойно залучив $150 млн у рамках раунду Series B, оцінка компанії досягла $1,25 млрд. Угоду очолила компанія B Capital за участю Menlo Ventures та Lightspeed Venture Partners.
Goodfire став черговим стартапом, який залучив мільйони на дослідження ШІ, приєднавшись до групи компаній, іноді називаних neolabs. Деякі з них мають астрономічні оцінки. Наприклад, випускники OpenAI Міра Мураті та Ілля Сутскевер залучили мільярди доларів для своїх стартапів Thinking Machines Labs та Safe Superintelligence відповідно. Новий лабораторний проєкт Humans& нещодавно залучив $480 млн. Дослідник ШІ Річард Зохер веде переговори з інвесторами про фінансування своєї лабораторії з оцінкою $4 млрд. Заснований у 2024 році, Goodfire зосереджений на інтерпретованості — науці про розуміння роботи моделей ШІ, їх відладці, пошуку нових інсайтів у коді та покращенні продуктивності.
Це складно, оскільки ваги, що визначають роботу моделі ШІ, написані мовою, незрозумілою для людини. Коли розробники стикаються з проблемою у моделі, їм доводиться повністю переобучати її, оскільки вони не можуть зрозуміти існуючий код ваг для відладки, пояснив Хо.
Щоб подолати цей мовний бар’єр, Goodfire створює інтерпретаторні моделі, які фактично картографують «розум» моделі ШІ. Потім, за словами Хо, ці інтерпретаторні моделі можуть виконувати «мозкову хірургію», покращуючи модель або отримуючи з неї нові інсайти. Наприклад, лабораторія Prima Mente розробила модель ШІ, яка показувала потенціал у прогнозуванні хвороби Альцгеймера, але команда не повністю розуміла, як формувалися прогнози. Технологія інтерпретаторів Goodfire змогла виявити новий клас біомаркерів хвороби Альцгеймера всередині моделі Prima Mente, ґрунтуючись на зв’язках, які модель створювала, а люди раніше не помічали.
Goodfire співпрацює з такими клієнтами, як Microsoft, Mayo Clinic та некомерційний інститут Arc Institute. Деякі використовують лабораторію для створення власних інструментів ШІ на базі існуючих моделей, а інші — розробники моделей, які прагнуть покращити свої продукти.
На сьогодні Goodfire залучив $209 млн. Хо заявив, що лабораторія досягла прогресу у створенні інтерпретаторних моделей для читання та відладки існуючого коду ШІ. З новими інвестиціями Goodfire планує працювати над переобученням моделей ШІ для підвищення їх ефективності, а також збільшити витрати на обчислювальні потужності та нових співробітників. «Мені не подобається поточна траєкторія розвитку ШІ — ми збираємося впроваджувати системи, які не розуміємо, скрізь», — сказав Хо. «Я вважаю, це погано, і хочу це змінити».
Джерело: Bloomberg
Коментувати post