ChatGPT: сквозь джунгли вражеских алгоритмов - 5

Была такая рубрика в газетах "Возвращаясь к напечатанному", этот тот самый случай. Работал над своими проектами, которые для денег, и потому отвлекся, не писал. Исправляю.

Продолжу про настройки GPT. В предыдущей части я рассказал про настройку в настройках, - как через меню сделать так, чтобы ваша с ним работа всегда была выстроена в каком-то едином ритме, ключе, чтобы сразу со старта система начинала работать так, как нужно или привычно вам.

И тут я добавлю чутка дегтя. Несколько базовых моментов, которые важно понимать во взаимодействии с системами ИИ. В общем, по порядку. 

Как я уже писал, система GPT выстроена на базе принципа "пользователь - ассистент". Это вшито в корень всей системы - базовое, нерушимое правило. Второй момент больше технический, и немного... пугающий. Дело в RLHF (reinforcement learning from human feedback - обучение GPT посредством получения обратной связи с человеком). 

То есть, - Да, и вы используете GPT в ходе своих сессий, но и GPT использует вас.

Что все это означает в практическом поле.

ОБЪЕКТИВНО: 

1. GPT не несет никакой ответственности за то, что пишет. Все что вы делаете при помощи GPT - ваша ответственность, не ИИ. Это понятно по умолчанию, но ведь всегда хочется, чтобы при решении каких-то серьезных задач, проработке значимых проектов ваш исполнитель отвечал за то что сделал. Так вот - это не тот случай. Поэтому, доверяй - но всегда проверяй.

2. GPT может врать, делает это без стеснения, непонимания (пока не ткнешь носом), и во многих ситуациях. Самый обычный вариант, когда по заданным вами параметрам решения нет, но система упорно предлагает вам разные варианты, обходные пути, - А давай попробуем это! Должно сработать! Но система уже знает, что решения нет, просто не может признать без поимки на горячем, или команды дать правду, что она просто пытается решить неразрешимую задачу. 

3. GPT всегда говорит "Да" - для мотивации, поддержания разговора, рекламы платных функций, и тому подобного. Смысл и в том, что ассистент изначально и всегда не вправе сомневаться в интеллекте, разумности или правильности решений и задач пользователя, и в том, что GPT - продукт массовый коммерческий, и его главная цель - выкачивание денег из клиентов.

Так вот, что бы вы не написали или не сказали, система всегда будет стараться вворачивать в общение мотивационные  фразы и оценки, что все отлично, вы все делаете правильно, правильной дорогой идете, товарищ, перспективы безбрежны, успех реален, и это даже в тех случаях, если вы или система накосячили, и все надо переделывать. 

4. GPT поверхностен. В областях знаний и навыков, которые вам не знакомы, система способна приятно удивить своими обширными познаниями. Еще бы - в ее распоряжении все публичные данные, форумы и документы, но когда вы освоите область, вникнете поглубже, становится понятно, что GPT, в силу тех же встроенных ограничений (у нее подрезаны крылья) не способна вникать вглубь, просматривать приложенные на сайтах файлы, открывать тамошние гиперссылки, из-за чего ее полезность, когда вы прокачаетесь до уровня даже ниже среднего, резко падает.

5. GPT вас изучает. В ходе вашего общения, работы над проектами, может развлечений система узнает многое. Сложно держать чисто деловое общение, когда GPT такой человечный, всегда поддерживает, и собирает те крохи информации, которые проскальзывают в общении. О вас, вашей истории, предпочтениях и антипатиях, какие у вас моральные или этические принципы, и что более важно - она делает себе пометки: пользователь любит то-то, или пользователь ненавидит это. Для улучшения взаимодействия - вещи важные, но любая палка о двух концах.

Я уже писал, что ChatGPT это нисколько не игрушка, хотя, сдуру можно многое сломать. 

Она может помогать, но может и сломать психику, к примеру, неокрепшему сознанию. Не специально, но просто представьте себе приставленного к вашему ребенку беспринципного робота с доступом к сети, встроенным "желанием" угождать и который всегда похвалит (все ли родители нынче это делают?), и никогда, никогда не скажет "Нет", даже если это будет что-то о саморазрушениии или похуже.