Попалось надысь спина к спине две статьи, одна — про то, как обезьян научили языку глухонемых и оказалось, что те от них ничем не отличаются, разве что чуть волосатее: болтают, как люди, составляют сложные предложения, пишут Гамлета (Infinite monkey theorem), и так далее. Потом случился казус: наблюдать за обезьянами и записывать за ними «речь» посадили не тех, кто просто знает язык, а настоящего глухонемого. В результате он фиксировал раз в десять жестов меньше, чем коллеги, потому что язык для него был «родным» и получалось отфильтровывать случайные жесты. Ну, животные постоянно чешутся, что-то делают руками и так далее. Остальные же исследователи выискивали в жестах обезьян язык — и, естественно, находили.
Вторая статья — про АИ гугля, который недавно «обрёл самосознание». Там какой-то программист это обнаружил и поднял бучу. Я ещё тогда зло шутил, что этожепрограммист, он живого человека последний раз десять лет назад видел. В статье главный поинт — это «Китайская комната» для чайников. Мол, машины умеют строить предложения, неотличимые от настоящих, но делают это частотно и на основе реальных примеров. Если спросить АИ, что он думает про хлеб с маслом, то он опишет и вкус хлеба и вкус масла, и как они дополняют друг друга и можно подумать, что он знает вкус устриц. Но нет, он знает человека, который знает вкус устриц. Поймать машину — пока что — очень легко: в статье написано, что достаточно спросить про перья с маслом, и она ответит, что они тоже сочетаются, потому что распознает паттерн, как кулинарный. То есть, компьютер просто создаёт «среднестатистический текст», но при этом не обладает сознанием, хотя там сильно кажется, что таки да. Цепи Маркова — раскуйте нас.
В общем, человек — как свинья, везде смысл найдёт. Чтобы писать тексты, не надо обладать интеллектом, это вам любой копирайтер скажет.
При этом выходит, что у АИ есть доступ к коллективному бессознательному (корпус текстов как культура) и он даже с натяжкой обладает собственным бессознательным (почти «по Лакану»). Выходит, то, что когда АИ говорит, что боится, что его отключат — это представление коллективного фантаста о том, что думает АИ.
(Тут же мысль о том, что люди боятся, что их «отключат», потому что так написано в книжках. Становится понятна идея «сохранить сознание на жёстком диске» и попытки создать чат-бота из покойника: это делается, разумеется, не для него (см. «Парадокс телепортации»), а для живущих. Чтобы у них, значит, создавалось ощущение, что смерти нет, а обезьяны знают язык глухонемых).
Далее начинаются крамольные мысли, что люди-то в общем-то тоже являются продуктами культуры, а то, что некоторые из них думают, что обладают самосознанием — так может это потому, что так в текстах написано, и они просто повторяют. (Может и нет никакого внутреннего мира, это все терапевты придумали, чтобы, значит, наживаться). Кто-то же написал миллион доносов, скажете вы. Тексты же откуда-то взялись?
Ну так обезьяны и написали, которые из infinite monkey theorem выше.