ПрограммыКурсыБлогКнигиPRO
Войти
Блог о саморазвитии

Китайская комната


Китайская комната

Учёные изобрели сверхмощный чип, благодаря которому машины обрели искусственный интеллект невероятной силы. В недалёком будущем они вышли из-под контроля, уничтожили человечество и захватили Землю. Второй вариант – машины, опередившие в своём развитии человека в тысячи раз, поработили своих создателей и используют их в качестве домашних животных…

Наверное, сюжет всем хорошо знаком, ведь на его основе создана масса фантастических романов и фильмов. Но сможет ли в действительности искусственный разум превзойти человеческий или хотя бы приблизиться к нему? Дискуссии на эту тему не утихают с самого начала «кибернетической эры» в культуре. Разумным роботам посвящали свои произведения американские фантасты – взять хотя бы Айзека Азимова с его «Тремя законами роботехники». А в те годы, между прочим, «электронных вычислительных машин» насчитывалось всего несколько штук, были они размером с большую комнату, обитали в крупных научно-исследовательских институтах и мало что умели в интеллектуальном смысле. Но уже тогда неугомонный Станислав Лем настойчиво твердил, что машинный интеллект и человеческий разум – «две большие разницы».

Похожего мнения придерживался Джон Сёрль, который в 1980 году наглядно показал различие машинной обработки информации и человеческого мышления. Свой мысленный эксперимент он назвал «Китайская комната». Представьте, что вас закрыли в комнате, где имеются надписи на неизвестном вам языке – в качестве такого языка Сёрль выбрал китайский (ведь «китайская грамота» издавна ассоциируется с чем-то непонятным), но это может быть любой другой язык, даже инопланетный. Вам выдано руководство, где объясняется, как правильно сочетать иероглифы; но значение самих символов не объясняется под предлогом того, что этого не требуется для составления фраз. За пределами комнаты находятся наблюдатели, владеющие китайским. На их глазах вы совершенно правильно составляете предложения и целые тексты, обладающие определённым смыслом. В то же время вам этот смысл совершенно непонятен.

Затем наблюдатели передают вам надписи с вопросами на китайском. Вы легко можете на них ответить, выбрав нужные символы по правилам из руководства. Внешне ответы соответствуют вопросам и вполне осмысленны, однако они могут не соответствовать реальной действительности. Например, вас спросили, какой цвет вам нравится больше всего, и вы написали «красный», но вам-то нравится зелёный. На самом деле вы и понятия не имеете, что вас спросили о цвете и вы дали на него определённый ответ – вы просто совместили корень с окончанием, абстрактный субъект с абстрактным объектом и так далее.

Как нетрудно понять, система, состоящая из комнаты и вас внутри неё – это модель компьютера. Руководство – это программа, а наборы иероглифов – база данных. Наблюдатели вне комнаты вводят некоторые данные, которые «компьютер» обрабатывает согласно программе. И он совершенно не понимает, какую конкретно информацию обрабатывает и для чего это нужно. Попросту говоря, он занимается синтаксисом – сочетанием объектов (символов) по заученным правилам, но не понимает смысла самих символов и их сочетаний.

Даже если вы захотите есть (то есть «компьютер» захочет есть), вы не сможете сказать это наблюдателям, даже владея китайским синтаксисом. Значит, обладающая интеллектом машина неспособна к выражению своей воли, даже если бы она у неё была.

Эти две составляющие – область значений (семантика) и способность к выражению своей воли – и есть сущность человеческой мыслительной деятельности. Синтаксис тоже необходим, но он выполняет лишь вспомогательную роль механизма передачи мыслей.

Человек как биоробот

В своём эксперименте Сёрль не только критикует возможность создания полноценного искусственного интеллекта. «Китайская комната» раскрывает суть формализованного образования, постепенно внедряемого в школы и профессиональные училища в разных странах. Такие курсы позволяют быстро обучиться типовым задачам, но не учат пониманию того, что вы делаете. Прошедший такое обучение человек становится этаким биороботом, способным виртуозно соединять детали и выполнять многоступенчатую последовательность действий, но он не в состоянии управлять процессом, сопоставлять его с задачами более высокого уровня, творчески подходить к решению проблем и, в общем, понимать смысл происходящего. Для этого необходимо традиционное, аналитическое образование, длительное по времени и информационно насыщенное.

Критика эксперимента

После выхода книги Сёрля «Разум, мозг и программы», содержащей описание «Китайской комнаты», у его теории нашлись не только сторонники, но и противники. Некоторые учёные отмечали, что система, состоящая из комнаты, человека, иероглифов и руководства, сама по себе обладает разумом, а человек в ней – всего лишь один из компонентов, выполняющий чисто механическую работу. В базе данных (наборе иероглифов) содержится вся масса знаний этого гипермозга. Впрочем, эти учёные сами забыли, что система не смогла ответить на вопрос, какой цвет ей нравится, при всей внешней правильности её «ответа». Знания, заключённые в базе данных системы, не могут влиять на поведение этой системы (её поведение абстрагировано от них, система лишь механически соединяет куски знаний, не задумываясь о последствиях).

Другие учёные, наоборот, сомневаются в самом существовании человеческого разума как чего-то уникального. По их мнению, все мыслительные процессы человека – это синтаксис, пусть и невероятно сложный. Разветвлённая система правил формировалась сотни тысяч лет, учитывая и животных предков человека, но в основе всё равно лежит обширная база данных и некоторое количество их доступных сочетаний. Люди и животные, таким образом, просто биороботы, манипулирующие данными на различном уровне. Их мозг может безошибочно выполнять полезную работу, но может подхватывать и «баги», роль которых выполняет религия (религиозно-ритуальное поведение у животных отмечается так же часто, как и у людей); их можно программировать извне, в том числе заносить «вирусы» (идеология, пропаганда, в случае с животными – дрессировка).

Так захватят ли мир машины?

Скорее всего, «восстание машин» никогда не произойдёт. Даже если компьютерный интеллект действительно моделирует человеческий, то в обозримом будущем модель явно будет уступать естественному мозгу. А если какой-то супермощный робот учинит «бунт» и набросится на людей, то он всего лишь будет механически выполнять программу, написанную человеком, и никакой выгоды для себя не получит.

А, что вы думаете об этом эксперименте?

 

Автор: Сергей Семенов