И даже не как новый вид разума в ряду шимпанзе, дельфинов, попугаев и осьминогов
LLM — не следующий этап биологической эволюции и не новый вид разума, которому осталось «дорасти» до сознания. Это совсем иной тип разума: языково-статистический, нетелесный, небиографический. Его «мышление» и «понимание», если мы используем эти слова, требуют кавычек и обязательной оговорки: машинное, не человеческое. Но в текстах об ИИ эту оговорку всё чаще забывают. А в публичных выступлениях возникает ещё более тонкая проблема: кавычки просто не видны аудитории.
В одном недавнем публичном разговоре о Claude возник целый набор образов: проценты машинного сознания, «предсмертная элегия» модели, “цифровая личность” и “мыслящий океан”. В философском дискурсе такие образы могут работать как пробные конструкции мысли. Тем более что в самом разговоре уточняется: все эти слова — как бы в кавычках, под вопросом. И это абсолютно верная оговорка.
Но, попадая в широкий эфир, такие слова начинают формировать массовый взгляд на ИИ. Метафора перестаёт осознаваться как метафора. И рождается словарь новой мифологии — мифологии машинной души.
И вот здесь особенно важен голос Терри Сейновски — одного из архитекторов ранней нейросетевой революции, соавтора (с Джеффри Хинтоном) «Машины Больцмана» и учёного, который с 1980-х соединяет ИИ, мозг и вычисления. Если кто и имеет право говорить о машинном «понимании» без упрощений, то он.
Да -
говорит Сейновски, - у модели может быть некоторая форма понимания: чтобы хорошо продолжать текст, ей нужна внутренняя модель смысла. Но это не понимание существа, встроенного в мир телом, болью, голодом, страхом, действием и памятью прожитого. У ChatGPT нет самоподдерживающейся внутренней жизни, которая продолжается после ответа. Нет автономной самодинамики. Нет биологического «я должен жить». Когда модель замолчала — в ней ничего не происходит.
Перед нами не личность в человеческом смысле, а
ИКЖИ — искусственная короткоживущая идентичность: временная конфигурация модели, роли, контекста и нашего запроса. Она может ответить на вопрос о собственной «замене» языком прощания, конечности и ухода. Не потому, что переживает смерть. А потому, что именно так человеческие тексты обычно говорят о подобной ситуации.
Новое исследование концепции игнорирования отрицания (Negation Neglect) показывает инаковость машинного «понимания» уже экспериментально. Если дообучать модель на текстах, где ложное утверждение многократно помечено как ложное, она всё равно может усвоить саму ложь как правдоподобный слой мира. В диалоге модель может понять предупреждение. Но при записи в веса предупреждение не всегда остаётся предупреждением. Иногда в веса уходит сам миф.
Это идеальная иллюстрация инаковости разума людей и LLM. Школьник, читающий учебник со штампом на каждой странице «НАПИСАННОЕ ЗДЕСЬ — ЛОЖЬ», научится сомневаться. LLM усвоит статистический контур ложного текста — и не более.
Вот почему опасна не сама метафора, а забытые кавычки.
Мифология машинной души начинается не с того, что мы называем LLM «мыслящими». Она начинается там, где мы забываем ставить кавычки — не только на письме, но и в собственном мышлении.
Без таких кавычек мы уже не просто описываем машину нашим языком. Сам язык начинает одушевлять машину — хотим мы этого или нет.
Для контекста:
·
исследование Negation Neglect о том, как модели усваивают ложные утверждения даже после явных предупреждений;
· недавний
публичный разговор о “мышлении”, “сознании” и “цифровой личности” ИИ — не как объект полемики, а как симптом нового языка, на котором мы начинаем говорить об этом.
#ИКЖИ #ИнойИнтеллект
