Недавно один судья вынес приговор, практически целиком написанный ChatGPT. Чуть раньше конгрессмен Палаты представителей США процитировал текст, созданный искусственным интеллектом, но никто об этом не догадался. А сегодня студенты с помощью "умного" чат-бота уже защищают дипломы.
Что эта технология несёт обществу и так ли она безобидна, в этом мы разбирались вместе с Игорем Пивоваровым, главным аналитиком исследовательского центра прикладных систем искусственного интеллекта МФТИ и стратегического советника компании Huawei по искусственному интеллекту.
Игорь, что же было дальше в истории с судьёй и конгрессменом?
Судья позднее честно признался, объяснив свой поступок тем, что хотел посмотреть, какой результат даст модель.
Он ей указал на несколько предыдущих похожих дел, попросил обобщить и принять решение в новом деле. В итоге его приговор почти полностью совпал с текстом, предложенным ChatGPT.
А конгрессмен США Джейк Очинклосс (Jake Auchincloss), выступавший в Палате представителей США и произнёсший речь, написанную ChatGPT, потом специально озвучил, что она написана ChatGPT. Он хотел продемонстрировать, настолько эта область требует специального регулирования.
Что собой представляет ChatGPT? Как это работает?
Это огромный дата-центр, где стоит даже не один сервер, где-то 5 000 серверов. Все эти сервера производят расчёты, представляют собой модель нейронной сети, как в мозге человека.
И таких нейронных сетей там несколько. Каждая из них решает свою задачу, чтобы в итоге выдать пользователю правдоподобный текст.
Мы можем сегодня обнаруживать результаты такой деятельности, если мы об этом не знаем? Как с плагиатом сегодня делается. Есть ли такие системы? С учётом, что "с той стороны" работает 5 000 серверов.
Плагиат – это хороший пример. Пока не было интернета, не было доступа к таким большим объёмам информации, отследить какой-то плагиат было достаточно проблематично.
С приходом интернета плагиат стало легче генерировать. И люди задумались, сделали системы поиска и определения плагиата, которые плюс-минус неплохо работают.
Сейчас такая же история начинается в области языковых моделей.
Студенты пишут дипломы с помощью ChatGPT, и их признают. Эта проблема пока только-только появилась, способов обнаружения таких текстов пока нет.
Я считаю, что в сгенерированном тексте должны быть какие-то метки, по которым можно однозначно определить, что это сгенерированный текст. Потому что далее модели будут ещё больше улучшаться.
Отвечает ChatGPT
Я задала те же вопросы и самому чат-боту. Некоторые из тем захотелось развить. Например, выяснить, чего не знает ChatGPT?
Все вопросы мы задавали на английском языке. Приводим здесь перевод ответов чат-бота.
Какие темы ты знаешь плохо?
Всё ещё есть некоторые темы или области, которые могут быть за пределами моих обучающих данных или менее хорошо представлены в наборе данных, на котором я обучался.
Сюда могут входить:
- Очень специализированные или технические темы, которые обычно не обсуждаются в повседневном языке.
- Сленг или неформальный язык, который может быть плохо представлен в письменном тексте.
- Новые слова или термины, которые ещё не получили широкого распространения в языке.
- Сильно зависящий от контекста язык, который может не иметь смысла без дополнительной информации или фоновых знаний.
- Отсылки или идиомы, относящиеся к конкретной культуре, которые могут быть непонятны носителям других языков или жителям из других регионов.
- Личная или частная информация, которая не была широко распространена или опубликована.
Ты можешь перевести текст с русского языка на английский?
Да, я могу перевести текст с русского на английский. Как языковая модель ИИ, я могу выполнять машинный перевод между различными языками, включая русский и английский.
Чтобы перевести текст с русского на английский, вы можете просто предоставить текст, который вы хотите перевести, и я создам соответствующий английский перевод.
Однако важно отметить, что хотя машинный перевод значительно улучшился за последние годы, он не всегда идеален и может не отражать все нюансы исходного текста.
Поэтому всегда рекомендуется, чтобы носитель языка проверил перевод и убедился в его точности и ясности.
Отсюда можно сделать вывод, что вычислить ChatGPT можно, если поговорить с собеседником с использованием жаргонных словечек. Правда, есть шанс, что в этом случае вас не поймёт и человек. Второй вариант: поискать в ответах несоответствие нормам русского языка. Но и тут могут быть проблемы. Ведь сейчас человек может знать язык куда хуже языковой модели.
Продолжение следует...
