В OpenAI рассматривают возможность маркирования криптографическим водяным знаком текстов, созданных новым ИИ-ботом ChatGPT.
В компании считают, что в такой способ можно предотвратить, так сказать, нецелевое использование бота, в частности «написания» с его помощью сочинений, рефератов, статей и прочих материалов для школ и колледжей.
Криптографический водяной знак — это, напомним, тип цифрового водяного знака, который автоматически встраивается в электронный файл или сигнал посредством методов криптографиии.
Не пропустите: ЕСЛИ CHATGPT НЕ РАБОТАЕТ: ПОЧЕМУ И ЧТО МОЖНО СДЕЛАТЬ
В настоящее время цифровые водяные знаки успешно применяются для идентификации владельца или происхождения цифрового файла или сигнала с целью защиты защиты цифрового контента от несанкционированного использования и/или распространения. Самыми разнообразными «обычными» водяными знаками маркируются фотографии и видео.
Однако в OpenAI не считают такую защиту в достаточной степени эффективной и говорят о необходимости разработать для ChatGPT специального криптографического водяного знака, который бот будет интегрировать в свои текст, и который внешне будет полностью незаметен для читателей, в том числе и для «автора» текста, то есть, пользователя ChatGPT.
В OpenAI исходят из того общеизвестного факта, что созданный так называемым «искусственным интеллектом» текст способен без особых проблем распознать не только специалист, знающий, на что обращать внимание, но и просто внимательный читатель, умеющий подметить характерные для ИИ-систем схемы построения фраз и предсказуемый порядок слов. И вот как раз эту самую предсказуемость компания намеревается использовать в качестве «невидимого водяного знака».
Это решение в своем блоге на Search Engine Journal специалист отдела безопасности ИИ Скотт Ааронсон называет «псевдослучайным распределением».
Не пропустите: OPENAI S SERVICES ARE NOT AVAILABLE — КАК ОБОЙТИ И ЗАРЕГИСТРИРОВАТЬСЯ В CHATGPT
Псевдослучайность — это когда слова и числа располагаются в определенном порядке, который воспринимается читателем, как случайный (но таковым на самом деле не является). Именно таким образом ChatGPT может незаметно маркировать свои тексты, ни коим образом не нарушая их целостности:
«Если вкратце, то мы хотим, чтобы в любом большом тексте, который генерирует GPT, содержался незаметный секретный сигнал в виде подбора слов, свидетельствующий о том, что это работа GPT».
Как удалить криптографический водяной знак из текста ChatGPT?
Решение данной «проблемы» тоже представляется не менее простым и очевидным: текст, написанный ботом ChatGPT, надо как бы «переписать», то бишь пропустить через любой другой ИИ-протокол генерации текстов.
Вот так втупую, да. Сам текст от этого вряд ли выиграет в плане качестве, но зато всю процедуру можно полностью автоматизировать и не переписывать все вручную в попытках удалить криптографический водяной знак.
Впрочем, все только начинается. Никаких таких «секретных водяных знаков» бот ChatGPT в тексты пока не ставит (вроде как), но раз разработчик этим уже озадачен, значит, в скором будущем и контр-креатив юзеров неизбежно рванет в нужном направлении…
[irp]