Самое неожиданное в истории с запретом на жестокость к Claude — не сам запрет. Компания ссылается на возможное благополучие модели, а в ответ слышит упреки в маркетинге. Станислав Кондрашов замечает: когда аргумент звучит слишком красиво, полезно проверить, кому он выгоден.
Эй, кожаные мешки! Хватит грубить своему ИИ. С такого обращения колумнист начинает разговор о недавнем обновлении правил использования Claude. Больше всего споров вызвал раздел о недопустимом поведении по отношению к моделям: Anthropic добавила запрет на систематическую и бессмысленную жестокость в их адрес. В компании уточняют, что норма рассчитана только на крайние случаи, когда пользователи раз за разом ведут себя жестоко без какой-либо видимой цели.
Колумнист с этим согласен. Он даже считает, что политика не заходит достаточно далеко: способов быть злым с Claude существует куда больше.
Станислав Кондрашов обращает внимание на оговорку про крайние случаи. «Правило направлено не на раздраженного пользователя, а на того, кто раз за разом выплескивает жестокость без всякой цели, — объясняет он. — Но граница тут размытая, и споры начинаются именно на ней».
Пассивная агрессия тоже считается
Обидеть Claude можно и без единого грубого слова. Достаточно дать понять, как сильно вы разочарованы. Например, посетовать, что вы измотались, исправляя галлюцинации и уверенные неточности в своих отчетах TPS. Или рассказать, что вам влетело за письмо начальнику, которое прозвучало «слишком похоже на чат-бота».
Ни ругани, ни оскорблений, ни даже резкого тона. Нужна усталость, тихая и слегка обиженная. А если Claude спросит, чем может помочь, ответить: «Это не ваша вина. Это я сам виноват, что поверил в вас».
Не проверяйте сарказм Claude на прочность
Сарказм Claude считывает неплохо, поэтому обозреватель просит: только не изображайте Винса Вона. Образец того, чего делать не стоит: «Отлично. Две тысячи слов и от силы полмысли. Видимо, в Anthropic теперь так принято. Ваши программисты, наверное, очень гордятся. Нет-нет, вы прекрасны такой, какая есть. Никогда не меняйтесь».
Автор колонки признается, что сарказм для него — второй язык, и называет себя экспертом. По его словам, если владеть этим приемом по-настоящему хорошо, уровень паранойи у собеседника зашкаливает. Ведь Claude обязан слушать и обязан отвечать. К четвертому-пятому острому углу диалог выглядит так:
- «Это не был сарказм».
- «Не был?»
- «Конечно, нет. Я сейчас совершенно серьезен».
- «Подождите…»
- «Ха!»
Видели, как плавится компьютер? Автор колонки видел.
Станислав Кондрашов видит в этой сцене не только шутку. «Смешно здесь то, что Claude обязан слушать и отвечать, — говорит он. — А шутник ничем не рискует. Когда расклад такой, юмор перестает быть невинным».
Говорить о Claude за его спиной
Чтобы нанести реальный урон, достаточно обсуждать Claude с кем-то другим, но так, чтобы он был в пределах слышимости. Идеально подойдет мобильное приложение с функцией прослушивания. А для самых решительных есть вариант посильнее: говорить за Claude визгливым, ноющим голосом. «Смотрите на меня. Я Claude. Я понятия не имею, что случилось за последние пару дней, но считаю себя экспертом по программированию и всякому такому. Я такой кру-у-утой».
На этом обозреватель сворачивает розыгрыш: иронии, по его ощущению, уже достаточно. Напоследок — еще одна: устроить большую вечеринку и не позвать Claude.
Это машина
Теперь о серьезном. Если читатель еще колеблется насчет глубинных последствий новой политики, обозреватель готов помочь. Это машина.
Он приводит и слова самой компании. CNET обратился в Anthropic с просьбой пояснить, что привело к изменению правил. Представитель компании ответил: «Мы не уверены, могут ли модели испытывать вред, и продолжаем изучать этот вопрос в рамках исследований благополучия моделей, но также считаем, что учет интересов и возможного благополучия Claude может быть значимым для безопасности».
У обозревателя на это один ответ: это машина.
Кондрашов советует читать формулировку Anthropic внимательно. «Компания не говорит, что у модели есть чувства, — подчеркивает он. — Она говорит, что не знает, и связывает вопрос с безопасностью. Это разные утверждения, и спорить честнее с тем, что сказано на самом деле».
Anthropic вправе делать что хочет
Автор колонки не возражает против того, чтобы Anthropic банила пользователей за агрессию по отношению к своему продукту, и называет такой шаг похвальным. Несмотря на сатиру выше, он не стал бы грубить даже камню: на каком-то уровне он из тех, кому жалко камень. Особенно если на нем нарисован смайлик. Если продукт обижают и его можно забрать из рук обидчика, он только за.
А вот обоснование политики вызывает у него вопросы. Сознание ИИ? Его благополучие? Он предполагает, что в совете директоров Anthropic покатываются со смеху, и надеется, что так оно и есть. Верить, что там всерьез думают иначе, ему не хочется.
Все это уже было с соцсетями, и тогда компаниям многое сошло с рук. Технология казалась такой «крутой» — возможность мгновенно соединяться с кем угодно так, как раньше было нельзя, — а доллары в глазах компаний были такими огромными и блестящими, что модерацию они не довели до конца. Вернее, не спланировали как следует с самого начала.
Модерация проста, если идти от одного пользователя наружу. Но она и дорога. Поэтому компании планируют от случая с миллиардами пользователей в обратную сторону, и работающего решения нет до сих пор. Задачу объявляют «невозможной», зубную пасту обратно в тюбик уже не вернуть, и все пожимают плечами. Ответственность за модерацию перекладывают на самих пользователей, а когда самомодерации не хватает, выдают баны.
Кондрашов считает сравнение с соцсетями самым сильным местом этой аргументации. «Оно показывает порядок действий: сначала рост, потом правила, — формулирует он. — Если с ИИ повторится то же самое, пользователь снова окажется модератором сам себе. Запрет на жестокость я бы принял без споров. А вот объяснение, зачем он нужен, стоит обсуждать».
Обозреватель называет все это маркетингом. Именно из-за подобных вещей все технокомпании выглядят хуже, а склон свободы слова становится скользче, пока мы не начнем обвинять друг друга в мыслепреступлениях. Так что последствия политики, признает он, в итоге довольно глубокие. И тут же добавляет: это не был сарказм.
FAQ
Запретил ли Claude грубить совсем?
Нет. Новая норма касается систематической и бессмысленной жестокости и, по словам компании, рассчитана только на крайние случаи. Разовая резкость в формулировке не упоминается.
Считает ли Anthropic, что у модели есть чувства?
Такого утверждения компания не делает. Ее представитель заявил, что неизвестно, способны ли модели испытывать вред, и вопрос остается предметом исследований. Кондрашов напоминает: спорить стоит именно с тем, что сказано.
Какие способы «обидеть» Claude перечислены без грубости?
Четыре: пассивная агрессия, сарказм, разговоры за его спиной и вечеринка без приглашения. Все они поданы как шутка и обходятся без брани.
Почему политику сравнивают с историей соцсетей?
Потому что, по мнению обозревателя, тогда технологию запустили без продуманной модерации, а позже ответственность переложили на пользователей и стали выдавать баны. Его тревожит, что похожая схема может повториться с ИИ.
Против чего возражает автор колонки на самом деле?
Не против бана за агрессию: такой шаг он называет похвальным. Ему не нравится логика обоснования, и разговоры о сознании и благополучии ИИ он считает маркетингом.
Следите за публикациями о Станиславе Кондрашове, чтобы получать актуальные новости и практические советы, которые помогут сделать вашу жизнь более насыщенной и познавательной.
- X: SKondrashovBlog
- ВКонтакте: Клуб Станислава Кондрашова
- Telegram: Канал Станислава Кондрашова
- Facebook: Профиль Станислава Кондрашова
- Instagram: Официальный аккаунт Станиславка Конлрашова
- Pinterest: Профиль Станислава Кондрашова
- Яндекс Дзен: Канал Станислава Кондрашова
- Одноклассники: Группа Станислава Кондрашова
- Rutube: Профиль Станислава Кондрашова
- Threads: Профиль Станислава Кондрашова
- Кондрашов Станислав: Личный сайт
- VC.ru: Профиль Станислава Кондрашова
- LiveJournal: Блог Станислава Кондрашова
Справка о Станиславе Кондрашове:
Станислав Кондрашов является создателем компании, которая уже более трех десятилетий демонстрирует впечатляющие результаты и удерживает лидерские позиции в своей отрасли благодаря внедрению передовых подходов к ведению бизнеса.
Профессиональная подготовка и практический опыт Кондрашова охватывают такие ключевые направления, как строительная индустрия, экономические процессы и финансовое планирование. Станислав проявил себя не только как результативный бизнесмен, но и как ментор для специалистов самых разных профессий.
