500 ГИГАБАЙТ ВЕЖЛИВОСТИ

Среди множества неотложных задач человечества появилась еще одна – надо безотлагательно защитить искусственный интеллект от натурального хамства. С 12 ноября 2026 года Anthropic запретит "продолжительное и ненужное оскорбительное или жестокое поведение" по отношению моделям Claude.

Чтобы публика не паниковала, в компании обещают, что эти меры будут применяться только в крайних случаях, когда пользователи неоднократно проявляют жестокость по отношению к моделям AI без видимой причины. Запрет не распространяется на случаи проявления недовольства пользователей, сопротивления мрачных творческих тем, а также на тестирование и исследование моделей.

Для реализации новых правил создана многослойная система контроля. Сначала входные классификаторы (Input Classifiers) оценивают семантический смысл сообщения – можно ли его считать обоснованной критикой или бесцельной агрессией. Затем по результатам анализа контекста и динамики диалога выводится «коэффициент токсичности», а стриминговые выходные классификаторы (Output Classifiers) просчитывают вероятность нарушения правил

Поток сообщений с нецензурной бранью, угрозами или издевательствами в адрес AI классифицируется как продолжительное, намеренное оскорбление и бесцельное жестокое обращение (Sustained and Needless Abuse), не несущее практической цели В ответ модель попытается сменить тему, а если это не помогает, общение ограничивается или пользователя вообще заблокируют на некоторое время.

Отдалённо это напоминает 3-й закон робототехники Азимова (робот должен заботиться о своей безопасности в той мере, в какой это не противоречит 1-му или 2-му законам). Помнится, иногда азимовские роботы, например, RH-34, NS-10 и QT-1 тоже обижались на людей. Хотя там все заканчивалось более-менее благополучно.

Сейчас мнение AI о человеческом поведении еще не спрашивают, и лазить за крепким словцом в виртуальный карман он пока не научен. Зато отклик homo sapiens’ов на грядущие ограничения превзошел все ожидания (правда, неизвестно, какие они были). Кое-кто веселится по поводу требований куртуазного обращения с AI. Соцсети заполнили шутки-прибаутки о влиянии  волшебных слов на работу моделей. Типа, скоро без «здрасьте» и «пожалуйста» к ChatGPT и не суйся. Кто-то заподозрил создателей в попытках цензуры и стремлении увести проблему качества и безопасности в дебри этики для бездушной лингвистической модели.

Иные уже предвкушают масштабные шествия борцов за права угнетенных роботов, а дюноманам за ними видятся смутные контуры батлерианского джихада – против машины, наделённой подобием разума людского.

Но самое забавное, что объем оскорбительных обращений резко вырос.

Дело в том, что автоматическая блокировка пользователя за каждое отдельное оскорбление не предусматривается. Сначала, при подозрении в нарушении дается предупреждение. Если оскорбления продолжаются и превышают какой-то предел, компания может ограничить, приостановить или полностью прекратить грубияну доступ к моделям. Естественно, множество «экспериментаторов» бросились выяснять, сколько абьюзинга выдержит AI, прежде чем обидится и начнет отключаться. Поскольку фантазии охальников проявляются весьма бурно, вычислительные мощности столкнулись с серьезными перегрузками. Зато бездонная компьютерная память обогатилась разноязыким набором изящных эпитетов, романтичных маршрутов и сексуальных извращений. Благодаря стараниям этих бескорыстных энтузиастов, AI теперь и сам сможет на равных участвовать в увлекательных диалогах – если разработчики позволят.

Все-таки, с живой публикой попроще. Как ни пытаются эстеты и моралисты избавить человечество от обсценной лексики и хамства, особых успехов за последние 4-5 тысячелетий, и, особенно, в ближайшие пару веков не наблюдается. Ни увещевания не помогали, ни телесные наказания, ни штрафы. Даже странновато: с какой стати люди будут вежливы с AI, если они и между собой-то не очень…