Компанія Anthropic та нові правила використання чатбота Claude
Компанія Anthropic, що займається розвитком штучного інтелекту, вперше за понад рік оновила правила використання чатбота Claude. У нових вказівках враховані актуальні виклики, зокрема зловживання, пов'язані з виборами, розробкою зброї та використанням ШІ в охороні здоров'я і фінансових секторах.
Одне з найважливіших нововведень — заборона на тривале та безпідставне образливе спілкування з Claude. Як зазначає The Verge, у серпні минулого року Anthropic вже повідомила про можливість завершення розмов користувачів, які проявляють шкідливу поведінку, в межах дослідження добробуту моделей. В оновленій політиці підтверджено, що цей механізм продовжить діяти, але деталі щодо блокування таких користувачів не розкрито.
Компанія підкреслила, що заборони застосовуватимуться у крайніх випадках — зокрема, у разі систематичної жорстокості без помітної мети. Критика, легке роздратування чи суперечки не вважаються порушеннями.
Anthropic також об’єднала кілька раніше окремих правил в одне нове обмеження щодо оманливих комерційних і політичних кампаній. Забороняється поширювати неправдиву інформацію про кандидатів на виборах або їхній порядок голосування, а також перешкоджати участі людей у виборах.
Компанія вже забороняла використання Claude для розробки зброї, але нові правила розширили це обмеження на створення програмного забезпечення та компонентів, а також на дії, пов’язані з озброєнням дронів і автономних засобів.
Ще одним важливим пунктом є заборона на стеження за людьми, незалежно від того, чи це робиться в реальному часі, чи через аналіз попередньо зібраних даних. Anthropic зазначила, що Claude не можна використовувати для ухвалення рішень про розслідування, арешт чи обвинувачення у кримінальному процесі.
Ці нові правила можуть змінюватися у контексті контрактів з окремими державними замовниками, що показує прагнення компанії адаптуватися до потреб різних клієнтів.
Таким чином, Anthropic намагається забезпечити безпечне та етичне використання штучного інтелекту, уникаючи небажаних наслідків і зловживань.