Claude намагалися використати для небезпечних досліджень вірусів — Anthropic
Компанія Anthropic повідомила, що за останні вісім місяців припинила кілька спроб використання своїх моделей ШІ для досліджень, які потенційно могли допомогти у створенні біологічної зброї. В одному з випадків науковець просив Claude допомогти з проєктом щодо небезпечніших мутацій вірусу чикунгунья.
Що виявила Anthropic
Anthropic заявила про кілька випадків використання її моделей, зокрема чатбота Claude, для потенційно небезпечних біологічних досліджень. Компанія описала ці епізоди у звіті про зловживання її ШІ за останні вісім місяців.
В Anthropic наголосили, що не завжди можна визначити справжню мету таких запитів: дослідження, необхідні для створення вакцин, теоретично можуть використовуватися і для розробки небезпечних патогенів. Тому компанія вирішила діяти максимально обережно. :contentReference[oaicite:0]{index=0}
Експеримент із вірусом
У травні один із науковців звернувся до ШІ по допомогу із заявкою на грант. Проєкт передбачав створення мутацій вірусу чикунгунья, який переносять комарі, щоб зробити його небезпечнішим для живих тварин.
Особливу тривогу в Anthropic викликало те, що робота призначалася для військового дослідницького інституту. Компанія заблокувала пов'язані з цим акаунти.
«Ми не знаємо, чи мало це дослідження на меті створення зброї», — заявив керівник відділу аналізу загроз Anthropic Джейкоб Кляйн.
Експерт Ради зі стратегічних ризиків Ендрю Вебер після ознайомлення зі звітом закликав обмежити доступ до подібних моделей перевіреним дослідникам. :contentReference[oaicite:1]{index=1}
Нові моделі стали потужнішими
Торішні тести старіших моделей Anthropic показували, що вони не здатні суттєво допомогти в небезпечних біологічних дослідженнях. Однак нові системи вже можуть виконувати складні наукові завдання.
У тому ж звіті компанія розповіла про спроби застосувати Claude для ракетних проєктів та шпигунства. За два дні до публікації документа один із дослідників Anthropic звільнився, попередивши про ризики перегонів у сфері ШІ. :contentReference[oaicite:2]{index=2}
Що заявив Трамп
Президент США Дональд Трамп відкинув побоювання щодо можливого вимирання людства через розвиток ШІ. На його думку, для США значно небезпечніше втратити лідерство у технологічних перегонах.
«Ні, у мене їх немає», — відповів Трамп на запитання про побоювання щодо можливого вимирання людства через ШІ.
Ми також писали на цю тему: 27-річний Джейкоб Коксон звільнився з Anthropic: «ШІ зможе нас усіх погубити».
FAQ
-
Про що попередила Anthropic?
Компанія заявила про кілька спроб використати її моделі ШІ для досліджень, які потенційно могли допомогти у створенні біологічної зброї.
-
Який випадок викликав особливе занепокоєння?
Науковець просив допомоги з проєктом зі створення небезпечніших мутацій вірусу чикунгунья для роботи, пов'язаної з військовим дослідницьким інститутом.
-
Як відреагувала Anthropic?
Компанія заблокувала пов'язані з підозрілим дослідженням акаунти та заявила, що в подібних ситуаціях діє з максимальною обережністю.