Как то на одном званом обеде я пытался объяснить человеку, чем я зарабатываю на жизнь; и он сказал: «Я не верю в возможность искусственного интеллекта, ведь лишь Бог может создать душу».
Я, должно быть, движимый божественным наитием, немедленно ответил:
– То есть, если я смогу создать искусственный интеллект, то это докажет ложность вашей религии?
– Что? – сказал он.
– Ну, если ваша религия предсказывает, что я неспособен создать искусственный интеллект, то факт создания мной искусственного интеллекта будет означать неправоту вашей религии. Либо ваша религия допускает возможность создания ИИ, либо его создание опровергнет вашу религию.
Повисла пауза – он осознал, что только что сделал свою гипотезу фальсифицируемой – и затем он ответил:
– Ну, я не имел ввиду, что вы не сможете создать интеллект. Я хотел сказать, что он не может испытывать эмоции таким же образом, что и мы.
– Итак, если я создам искусственный интеллект, в который не будет заложено ничего навроде заранее написанного сценария, и мое творение начнет говорить о чем то, похожем на нашу духовную жизнь, то тогда ваша религия неверна.
– Ну, гм, видимо нам придется остаться при своих мнениях на этот счет. «Согласиться не соглашаться» – в таких случаях говорят англичане.
– На самом деле, так нельзя. Есть теорема из области рациональности – теорема Ауманна о согласии – которая говорит о том, что два рационалиста не могут согласиться не соглашаться. Если два человека не соглашаются друг с другом, то хотя бы один из них должен быть в чем то неправ.
Мы коротко прошлись по этой теме. И, наконец, он сказал:
– Ну, кажется, на самом деле я пытался сказать вот что: я считаю, что вы не можете создать что то вечное.
– Ну, я тоже так считаю!– ответил я. – Я рад, что мы смогли прийти к консенсусу по этому вопросу, как и требует теорема Ауманна о согласии.
Я протянул свою руку и он пожал ее, а потом побрел дальше.
Женщина, которая стояла рядом и слушала наш разговор, серьезно посмотрев на меня, сказала: «Это было прекрасно».
– Большое спасибо, – ответил я.
Элиезер Юдковский
Post your comments