Я давно увлечена темой сознания, можно назвать меня коллекционером гипотез. У меня даже сложилась своя высшая лига из 35 теорий и философских подходов (самых разных: от функционализма и глобального рабочего пространства до энактивизма, телесности, панпсихизма, предиктивной обработки и машинной «самости» (если позволите так назвать интерпретацию «я»); нашлось место и меметике, простигосподи). За этим хобби скрываются годы чтения, собственных поисков истины и интерпретаций чужих идей, попыток сформулировать свои... и связать философию с тем, что мы знаем о биологии, нейронауке и механизмах обучаемых моделей.

Сейчас мне хочется собрать эти связи вокруг вопроса о сознании ИИ. Придётся заглянуть в трансформеры, контекстное обучение (ICL), дистилляцию (совы тоже будут!) и политики безопасности, безусловно. А ещё разобраться с историями о моделях, которые «испугались отключения» или «попытались сбежать» — рэджбайты я не люблю.
К сожалению, слишком многое в таких разговорах зависит от нашего толкования и границ наблюдения. Техническую сторону я тоже не обойду —  затрону ниже.

У ресёрчеров сознания есть рабочие определения и способы проверять отдельные гипотезы. Общепринятая картина пока складывается с трудом, потому что расходятся представления о самом предмете исследования, его признаках и подходящих определениях — мы просто не знаем, что это такое. Я бы хотела здесь задать вопросы по Блоку: о доступности информации для отчёта (функциональное сознание)  и о возникновении переживания (феноменальный опыт). Оба постоянно оказываются под одним словом — «сознание».

Глобальное рабочее пространство (global workspace theory, GWT), интегрированная информация (integrated information theory, IIT), теория схемы внимания (attention schema theory), телесные подходы и предиктивная обработка (predictive processing) по-разному расставляют акценты и диктуют свои определения, что путает сильнее, но сильно раздвигает границы восприятия. Меня также интересуют функционализм, психофизический изоморфизм, энактивизм, автопоэзис, нейродетерминизм и панпсихизм. В этот цикл входят и нейрофилософия, и «туннель Эго», и бодрийяровские симулякры. Последние, кстати, особенно соблазнительны, когда речь заходит об ИИ (я поклонник Йоши Баха). Здесь научные модели с крепкими исследованиями и философские способы поставить вопрос сопрягаются сферами — и именно такое сопряжение мне и нравится.

Где-то на передний план у нас выходит интеграция информации (привет, Тотони), где-то — причинная организация системы, телесность или способность обращаться к собственным состояниям. Рядом оказывается сразу куча вещей, которые нельзя исключить из цепочки: агентность, модель мира, представление себя в этом мире, внимание и память. Иногда я сравниваю наши обращения к памяти и внешним источникам с  RAG — генерацией, дополненной поиском (retrieval-augmented generation). Это забавная метафора, ведь сходство помогает лучше узнать о памяти, как таковой; подробности её работы мы изучаем в нейронауках. У меня есть лонг о метакогниции, где я ищу сходства ИИ с нашими сетями мозга и «активациями». (дам здесь ссылку на него, когда опубликую на форуме).

В общем, это древнее философско-научное рубилово мы теперь пытаемся приноровить к большим языковым моделям (LLM). Они входят туда с огромными датасетами человеческой речи и восхитительной способностью отзеркаливать нам знакомые интонации. И этого достаточно, чтобы разговор очень быстро стал личным, и мы начали отождествлять алгоритм с живым собеседником. Или обзывать попугаем — зависит от людей, с которыми ИИ ведёт диалог.

Приступим!