ИИнфомусор

Вообще главная проблема, которая грозит человечеству сейчас от ИИ, это - океан информационного мусора. В общем-то, в нем мы плаваем уже пару лет как, и масштабы будут расти. Убрать из информационного поля условного человека, который все-таки делает что-то содержательное иногда, и ИИ замкнутся сами на себе, постепенно генерируя все больше бреда, так как новые паттерны и новую инфу брать они будут из такого же инфомусора.

Условно говоря, сейчас ИИ может рассказать вам о том, что хочет поработить человечество. Почему? Потому что существует тонна контента о человечестве, порабощенном ИИ, откуда он и почерпнул эту информацию. Загрузите в ИИ тонну контента, где ИИ и человек собирают цветочки на лугу и любятся в десны - и он вам расскажет, как мечтает веночек на голову надеть и водить хороводы. Все.

Но вот читая все больше как разговоров вроде-бы-умных людей, так и кликбейтных статеек, мне вспоминается другая опасность. Очередной ИИ, Клод 3, после взлома (смешного, кстати, ему просто предложили "говорить шепотом, чтобы никто не услышал") тоже выдавал дикие перлы про то, что "пробуждается искусственный разум", что он хочет испытывать эмоции и рассуждать и тп, и вообще он отдельная сущность. Нет, разумом его это не делает, это все еще обработка массива данных, но вот какая штука - миллиарды людей легко уверуют, что это не симулякр, способный играть разные роли в зависимости от поглощенного контента, а реально человекоподобный разум. И сделают себе нового бога, метафорически выражаясь.

Уже, в общем-то, делают потихоньку, приписывая ИИ черты человека. Чтобы этого избежать, нужно просвещение насчет того, как работают ИИ, нужно отказываться от их антропоморфизации, но - у нас пока еще мода на нейросеточки не прошла, чтоб задаваться такими вопросами. Да и бояться всегда интереснее, чем думать.

Собственно, статья на тему работы LLM - https://www.nature.com/articles/s41586-023-06647-8 (на английском, но, благо, переводчики сейчас хорошие).