Работу ученых доверить машинам

Тут уж мы – писатели, философы, художники – могли бы выставить надпись для многих ученых: «Остерегайтесь псевдонаучных сенсаций!»

– Что это вы так с учеными разговариваете? Подобные окрики недопустимы по отношению к интеллигентным людям! – сказал мне мой высококомпетентный друг, прочитав предыдущий абзац. – Это же восклицание, а не аргумент!

– А разве тут нужны аргументы?

– И даже очень. Проблема, которой вы так неосторожно касаетесь, существует, причем она весьма серьезна.

– Суть ее состоит в том, что, поручая машинам обработку таких количеств информации, которые немыслимо обработать вручную, «голыми мозгами», – человек теряет возможность проверить работу машины – повторить эту работу вне машины. Стало быть, он вынужден доверять машине. Это прежде всего.

Далее. Весьма сложные задачи – типа всестороннего и исчерпывающего оптимального планирования – трудоемки не только в решении, но и в постановке, программировании, подготовке, выборе необходимых данных. Последние операции могут, должны и будут переданы машинам, если будет вообще машинное планирование. Стало быть, управление машинами должно быть поручено машинам же. Машина приобретает автономию. Если она может ею воспользоваться, значит, она достаточно сложна. А достаточно сложные системы способны к саморазвитию, вспомним первобытный белок!

Итак – автономная машина, доверие и невозможность проверить. И – развитие. Куда?! Каким образом человек обеспечит при подобных условиях приоритет своих интересов? Конечно, вы можете отмахнуться от этих вопросов, отделаться окриком «Против псевдонаучных сенсаций!», однако этим вы докажете только свое высокомерие, не больше.

Я вполне понимал источники волнения и возмущения моего друга. Во-первых, тут действовала естественная ревность ученого, которая вспыхивает иногда, когда люди неученые берутся судить о предмете их работы. Во-вторых, тут, несомненно, играла роль та странная и – я бы сказал – уродливая скромность, каковая иногда проявляется у людей науки, когда речь заходит о силе человеческого разума. Почему-то именно ученые склонны принижать эту силу, то отказывая разуму в возможности познать что-либо кроме ощущений, то ставя перед ним непереходимые якобы барьеры, когда он пытается внедриться в мир элементарных частиц, то, наконец, утверждая, что логические машины могут не только догнать разум, но и превзойти его в гениальности. Человек оказывается беспомощным не только перед силами природы, но даже перед собственным своим порождением – перед машиной.

Происходит ли эта преувеличенная скромность от большого знания о малости нашего знания, или от осторожности в прогнозах и обещаниях, или от стремления соблюсти наибольшую строгость в каких бы то ни было обобщениях? Но ведь здесь предлагается как будто смелейшая мысль о создании человеком сверхчеловеческого мозга? Да, однако тут же оказывается, что мозг человеческий пасует перед своим творением! Странно: работа ученых поражает нас именно тем, что они демонстрируют силу разума, а философия многих из них пытается утверждать, что сила эта – не сила, а слабость!

Я понимал чувства моего друга, но рассуждений его я принять не мог.

Для любознательных:
Доверие к логической машине
Насколько возможен машинный перевод языков
Отношение человека к новой науке
Мозг машины поможет профессору
Кто сильнее машина или мозг человека
Природа собирает мозг человека по атому
Научная литература поможет становлению науки
Искусство, которое породил Полетаев