«Грають нашими життями»: Джейкоб Коксон зробив моторошне попередження про майбутнє ШІ
27-річний дослідник Джейкоб Коксон звільнився з Anthropic через побоювання щодо розвитку ШІ. Колишній співробітник OpenAI заявив, що технологічні компанії змагаються у створенні самовдосконалюваного суперінтелекту, який люди можуть втратити контроль.
Чому Коксон звільнився
Джейкоб Коксон працював в Anthropic — компанії, що створила сімейство мовних моделей Claude. До цього дослідник працював в OpenAI, а останні три роки спеціалізувався на попередньому навчанні нових моделей ШІ на великих обсягах даних.
«Сьогодні я звільнився з Anthropic. Дії обох компаній безвідповідальні. Вони наввипередки прагнуть створити самовдосконалюваний суперінтелект, граючи при цьому нашими життями», — заявив Коксон.
Що він прогнозує
За словами Коксона, незабаром можуть з'явитися системи, які перевершуватимуть можливості людини. Він вважає, що вони потенційно зможуть зламувати складні системи, швидко змінювати цілі галузі та отримувати реальну владу й ресурси.
«Люди, які створюють штучний інтелект, серйозно вважають, що до кінця десятиліття він зможе нас усіх погубити. Це не маркетинговий хід», — написав дослідник.
Ми також писали на цю тему: OpenAI заявила про розв'язання «задачі тисячоліття»: 10 000 агентів ШІ знайшли відповідь.
У чому небезпека гонки ШІ
Коксон вважає, що працівники провідних ШІ-компаній або не до кінця усвідомлюють масштаби потенційних наслідків, або розуміють ризики, але продовжують гонку через бажання випередити конкурентів.
За його словами, публічно керівники та дослідники часто висловлюються обережно, однак у приватних розмовах визнають серйозність своїх побоювань. Коксон назвав можливу втрату контролю над потужним ШІ безпрецедентною загрозою для людства.
FAQ
-
Хто такий Джейкоб Коксон?
Джейкоб Коксон — 27-річний дослідник ШІ, який працював в OpenAI та Anthropic і спеціалізувався на навчанні нових моделей.
-
Чому Коксон звільнився з Anthropic?
Він пояснив рішення побоюваннями, що гонка зі створення самовдосконалюваного суперінтелекту може становити загрозу для людства.
-
Що Коксон говорить про майбутнє ШІ?
Він прогнозує появу систем, які перевершуватимуть людські можливості, та попереджає про ризик втрати контролю над ними.