Міркування: Співзасновники та Таланти Покидають OpenAI, Чи Ми Щось Пропускаємо?

OpenAI безсумнівно є однією з найбільш дестабілізуючих компаній в технологічній галузі зараз. Її захоплюючий ChatGPT домінує на ринку чат-ботів-ассистентів, а її вплив на окремих осіб та суспільство неоціненний.

На сьогодні компанія вартує понад $80 мільярдів, хоча була заснована лише з $1 мільярда у 2015 році. Проте за останні кілька місяців її організаційна структура зазнала швидких змін, майже таких ж швидких, як її розвиток, нові можливості, продукти та моделі. Але чому?

З 11 співзасновників, які розпочали проект, залишилося всього близько трьох. Джон Шульман став 8-м співзасновником, який покинув проект після того, як цього тижня він оголосив про це публічно.

Всередині компанії відбувалися драматичні події, тимчасово був звільнений генеральний директор, були написані відкриті листи, колишні працівники турбувалися про безпеку, а особи, що розкривають корупцію, говорили, що угоди про нерозголошення, які вони підписали з компанією, забороняють їм висувати претензії до регулюючих органів.

Що люди повинні знати про творців найпередовішої технології нашого часу? Які факти і які теорії змови?

Почнімо з самого початку.

З чого все почалося: Засновники

OpenAI було запущено в 2015 році, і компанія опублікувала повідомлення “Знайомство з OpenAI“. Творці описали OpenAI як “некомерційну компанію, що займається дослідженнями в галузі штучного інтелекту” з чіткою метою: “приносити користь всьому людству”.

У документі було представлено Іллю Суцкевера як директора досліджень, Грега Брокмана як головного технічного директора, Альтмана і Ілона Маска як співголови, а також були представлені решта засновників: Тревор Блеквелл, Вікі Чеунг, Андрей Карпаті, Дерк Кінгма, Джон Шульман, Памела Вагата, та Войцех Заремба.

“Оскільки наше дослідження не обтяжене фінансовими зобов’язаннями, ми можемо краще зосередитися на позитивному впливі на людей”, – написали Сутскеер і Брокман разом з рештою команди в своєму першому пості. Вони також уточнили, що група інвесторів – включаючи Альтмана, Маска, Amazon Web Services (AWS), YC Research та інших – зобов’язалися надати 1 мільярд доларів, які вони очікують, що прослужать протягом багатьох років.

Команда мрії була готова, і організація мрії могла розпочати свою роботу.

Співзасновники йдуть, генерального директора Сема Альтмана звільняють

Не надто довго після запуску OpenAI у 2016 році, Вагата тихо покинула компанію, щоб приєднатися до Stripe. Згідно з Financial Times, інженер не згадує OpenAI у своєму профілі LinkedIn. Наступного року, у 2017 році, Чеунг, Блеквелл та Капарті також покинули компанію.

П’ятим засновником, який покинув OpenAI, став Маск у лютому 2018 року. Він пішов з ради директорів після суперечок з Альтманом, що стало одним з найбільш резонансних відходів, а конфлікт триває вже роками та і досі залишається активним. Маск подав кілька позовів проти компанії – найновіший лише кілька днів тому через угоду з Microsoft. OpenAI нарешті опублікувала публічне пояснення кілька місяців тому, у березні, заявивши, що Маск хотів об’єднати OpenAI з Tesla та повністю контролювати компанію.

Після того, як Маск покинув проект, дослідник і співзасновник Кінгма пішов за трендом і приєднався до проекту штучного інтелекту Google. Решта співзасновників, здається, мали функціональну організаційну машину – не дивлячись на великі оновлення з метою отримання прибутку, коли вона перетворилася на організацію, що працює за моделлю двійного прибутку та благодійництва – поки не розгорнулася драма з Семом Алманом, і генеральний директор тимчасово покинув компанію у 2023 році. Щось знову було не так.

У 2023 році Карпаті повернувся до OpenAI, але знову покинув проект у лютому 2024 року, щоб створити свій власний проект з освіти в галузі штучного інтелекту – названий Eureka Labs і запущений у липні. Потім Сутскеер покинув свій пост головного науковця, щоб створити свою власну компанію, Safe Superintelligence, у травні. І зараз, всього кілька днів тому, двоє інших співзасновників зробили крок назад. Шульман, який щойно оголосив про своє рішення приєднатися до конкуруючої компанії Anthropic, а через дві години Брокман оголосив про своє відпустку.

Наразі в команді лише Олтман, комп’ютерний науковець Заремба, і – формально – Брокман. Тобто два з половиною з 11?

Драма з Олтманом

До кінця 2023 року світ дізнався про шокуючі новини: рада OpenAI звільнила Олтмана 17 листопада. Протягом кількох днів з’явилося багато спекуляцій щодо безпеки ChatGPT. Рада заявила, що Олтман не був “послідовно відвертим у спілкуванні з радою” у своєму публічному поясненні переходу лідерства.

“Коли ChatGPT був запущений у листопаді 2022 року, про це не повідомили правління заздалегідь”, – сказала Гелен Тонер, колишній член правління OpenAI, під час інтерв’ю для подкасту The TED AI Show у травні цього року. “Ми дізналися про ChatGPT з Twitter”, – зазначила вона.

Некоммерційне правління OpenAI було стурбоване довільними рішеннями Альтмана і великими комерційними угодами, такими як інвестиції Microsoft у 13 мільярдів доларів, в тому, що почалося як дивна бізнес-відносини, а потім офіційно перетворилося на незграбну конкуренцію.

Дослідження та аналіз американського журналіста Езри Клейна для New York Times довели, що рада просто намагалася контролювати прибуткову організацію, дотримуючись первісної благодійної місії компанії. Але це не спрацювало.

Олтман високо цінується в компанії та технологічному секторі, і приблизно 90% співробітників загрожували звільнитися, якщо він не повернеться – у тому числі Сутскеєр, який спочатку підтримував раду – і рада подала у відставку. Багато членів ради пішли, а Олтман повернувся до компанії протягом 5 днів.

Теорії та факти

Ткати та розбиратися у драмі OpenAI – не просте завдання. Багато людей вважають, що розвиток нових технологій штучного інтелекту вийшов з-під контролю у OpenAI, і що колишні співзасновники та працівники залишають компанію через стурбованість щодо безпеки. Групи Reddit вважають, що OpenAI вже таємно розробили моделі загального штучного інтелекту.

Це не просто припущення. Колишні та нинішні співробітники OpenAI — і з інших компаній, що займаються штучним інтелектом — підписали публічне попередження про ризики, пов’язані з технологією, у червні, від дезінформації до знищення людства.

Ян Лейке, не співзасновник, але ключовий дослідник OpenAI, покинув компанію у травні, після 3 років роботи в ній. “Я вже давно не згодна з керівництвом OpenAI щодо основних пріоритетів компанії, доки ми нарешті не досягли критичної точки”, – написала Лейке на X. “Протягом останніх років, культура безпеки та процеси поступилися на задній план відносно блискучих продуктів.”

Проект Superalignment, створений у липні 2023 року для “контролю над AI системами, набагато розумнішими за нас”, був розформований після того, як Сутскевер пішов, щоб створити, схоже, той самий проект, але з автономією. Anthropic, де тепер працюють декілька колишніх співзасновників, також було створено колишніми працівниками OpenAI, щоб розробляти “добрі та етичні моделі”, якщо це взагалі можливо.

Ми зачаровані, але що нам не вистачає? Ймовірно, нам не вистачає прийняття того, що OpenAI вже не є організацією з кількома лідерами, а перетворився на синонім дуже потужної та впливової особи: Альтмана.