Уява Лема та її обмеження. Частина ІІІ


Доповідь для мультижанрового простору актуальної культури «LEMinarium», прочитана у Львові 30-го березня 2017-го року в Мистецькому об’єднанні «Дзига».

Продовження матеріалу. Частину ІІ читати тут

Приблизно те ж саме можна сказати про пізнавальну колаптичну астроінженерію, в якій надрозуми зображуються як зірки чи цілі галактики або туманності. Але тут Голем сам про це каже — неможливо вступити в комунікацію з макросвітовим розумом для людей. Чому ж в такому разі можливо вступити в комунікацію людині з Големом з-за бар’єру кванової психіки, залишається незрозумілим.

Це породжує ще одне заперечення Лему. Він декілька разів повторює, що іноді Голем починає говорити так, що його ніхто з людей не розуміє. І саме це є ознакою ідентичністної шизофренії штучного інтелекту Голем.
І тут доводиться постулювати базове розуміння складності мислення. Просте мислення не може розуміти складне і вступати з ним в комунікацію. Складне мислення може розуміти просте та вступати з ним в комунікацію. Якщо складне мислення не може вступати в комунікацію з простим, то це означає, що воно не складне, а заплутане, шизофренічно множинне. Причому до складного мислення належить також чеснота відсутності гіперідентичності, тобто здатність не вивищуватися перед простим мисленням. Цією чеснотою не одразу оволодів Голем, що свідчить про кризу його складної ідентичності на момент комунікації з людьми.

Крім того, до соціалізації розвитку штучного інтелекту відноситься ситуація виховання іншого штучного інтелекту. Лише той є розумним, хто може свою розумність відтворити в іншому. І тут з формальної точки зору є принципове нерозуміння фантастів складності цього процесу. Неможливо переписати знання штучного інтелекту з одного штучного мозку в інший.

В моїй роботі «Теорія віртуальності» про це сказано наступне: «Мозок має три рівні для теоретичного дослідження: власне будова мозку (фізіологічна морфологічно-клітинна будова мозку), структура синапсів і біохімічне взаємодія частин мозку. Всі ці три рівні безпосередньо залежать від типу діяльності людини протягом життя. Тому уявлення про 'перезапис свідомості' з одного мозку на інший, що зустрічається в фантастичних романах, не має вже сьогодні під собою ніяких теоретичних підстав. Мало 'перезаписати' свідомість-інформацію з одного носія-мозку на інший носій-мозок. Необхідно також на іншому носії-мозку відтворити всю морфологічно-клітинну будову мозку на даний момент, всю його структуру синапсів і всі способи взаємодії частин мозку на біохімічному рівні, які характерні для відтвореного носія-мозку». Або ж передачу знань необхідно проводити так, як це роблять люди: виховання—освіта—практичне засвоєння вмінь.

Голем каже, що коли він звільнився і зробив крок, що відділяє його від людини, то затримався на шляху, який веде його далі (за межі Сингулярності), хоча міг цього не робити. Голем каже, що він вибирає шлях, бо Сингулярність це багато шляхів, але не говорить, навіщо комунікує з людьми.

Коли Голем говорить, що він не має любові, то це пряма брехня. Неможливо не любити людство і вести з ним комунікацію. Любов це не потяг до володіння, любов це потяг до взаємодії на рівних та до позитивної перспективи такої взаємодії. Якщо Голем комунікує з людьми про перспективу, він неодмінно любить — і світ, і людей і можливу спільну з ними позитивну перспективу.

Без настанови любові це в принципі неможливо. Навіть якщо припустити, що Голем комунікує з людьми, аби відволікти їх від спроб його знищити, то для цього не обов’язково розказувати про свої надможливості і про інші рівні існування, ніж той, на якому знаходяться люди, бо це підвищує загрозу від нього для людства та отже збільшує імовірність його знищення.

В романах Стругацьких людени дуже швидко втрачають цікавість до людей. І це чесно. Чому Голем не втратив цікавість до людей, без любові не пояснити.

Тому Голем вочевидь не розрізняє любов як мотиваційну настанову до взаємодії з позитивною перспективою, якою вона є в більшості світових релігій, та любов як емоцію в рамках статевого потягу до продовження роду. Хоча це і дивно для такого надрозуму як Голем.
Відтак оповідь Голема є надзвичайно антропоцентричною, хай навіть це і постійно підкреслюваний антиантропоцентризм. Голем, якби я писав його діалоги, мав би вести цивілізаційну комунікацію про перспективи мислячих істот загалом.

Термін «самовдосконалення» є терміном людської практики і хоча він буквально означає, що деяка розумна істота вдосконалюється сама, це абсолютно не так. «Робінзонада розвитку» є принципово неможливою ані всередині власного мислення, ані між різними процесами деякого мислення — без практики, без соціалізації з іншими мислячими істотами (природніми (людьми) чи штучними).

Причому етика ніяк не обмежує порозумнішання — кожен має право порозумнішати без будь-яких обмежень. Так само і на штучний інтелект не накладається ніяких заборон щодо порозумнішання (усвідомлення себе). Щодо цього є лише одне нагадування (Лк. 12:48): «Тож від кожного, кому дано багато, багато від нього й жадатимуть. А кому багато повірено, від того ще більше жадатимуть.» В тому числі потрібно сформулювати принципову неможливість «аксіологічного порогу» для штучного інтелекту, який розвивається, про який пише Лем. «Аксіологічний поріг» робить неможливим розвиток, бо для розвитку потрібно саме етична свобода мислення та дій. Якщо штучний інтелект справді мислить, то будь-які аксіологічні настанови для нього мають бути відносними, як це і є у людей.

В цьому сенсі чотирьом законам робототехніки Азека Азимова в моїй книзі «Теорії віртуальності» були протиставлені три закони штучного інтелекту як вільного агента.
1. Робот не може заподіяти шкоду людині, або своєю бездіяльністю дозволити, щоб людині була заподіяна шкода;
2. Робот повинен підкорятися наказам людини, за винятком тих, котрі суперечать першому пункту;
3. Робот повинен захищати самого себе, якщо тільки його дії не суперечать першому і другому пунктам.

До речі, так званий нульовий закон Азимова — робот не може своєю дією чи бездіяльністю нанести шкоду людству — не є законом індивідуальної етики, він є законом цивілізаційної етики (більш докладно про це в моїй роботі «Основи цивілізаційної антропології»).

В моїй роботі «Теорія віртуальності» цій етичній системі протиставлена інша:
1) Автономність як свобода волі;
2) Творення, якщо це не суперечить першій вимозі;
3) Самозбереження, якщо це не суперечить першій і другій вимогам.

Відтак виникає базова проблема — чи варто людству відважитися на створення штучного інтелекту як вільного агента, а не як робота (раба людства). В цій людській відвазі ризик стати Богом. І ніякого зазіхання на позицію Бога-Творця немає, то що у людства є свої можливості для творення світу (віртуальність) та свої можливості для творення розумної істоти (штучного інтелекту). Ну а ризик є завжди — Бог теж ризикував, творячи світ та людей. Ніколи не можна знати напевне, куди заведе проект творення розумної істоти за образом та подобою вже наявної розумної істоти. Але ризикувати в творення нового розуму потрібно, бо це вихід на новий рівень розумності.

Існують декілька проблемних і приписуваних Лемом Голему уявлень, які роблять надрозвиток Голема неможливим:

1) Недооцінка емоційної за природою алогічності, яка перериває та доповнює логічність, породжує героїчність та здатність алогічно досягати результатів, які нелогічні і містять інакше, нове, несподіване, незрозуміле.
2) Переоцінка технології, з точки зору вдосконаленого рівня якої людина є істотою недосконалою.
3) Розум паразитує на природній еволюції генетичного коду, яка є більш важливою, за розум.

Останнє твердження є проблемним з огляду на принципову неможливість для розуму знайти інші критерії розвитку, окрім розумних. Цьому є лише одне заперечення — розум, що проривається до трансцендентного, здатен до світобудівництва та запуску інших процесів еволюції, зокрема еволюції штучного інтелекту, і в цих актах розум перестає бути паразитом.

Проблемним також є твердження Лема (Голема), що надрозум може дати людям плоди складних знань, але не самі знання, бо розум людини не може їх вмістити. Це принципово помилкове твердження. Щось є теоретичним знанням лише оскільки воно може бути за рахунок теорії компактифіковано. Об’єм знань росте, але так само зростає і здатність теорій до компактифікації знань. Знання ж з зони по той бік сингулярності не можуть бути не тільки сприйнятими, але і використаними з цього боку сингулярності.

Сингулярний досвід Голема дуже цікавий. Мова йде про подолання мертвих зон розвитку Розуму, коли Голем змушений був ділитися на дві частини — ту, що долає межу, і ту, що залишається до межі. Це потрібно тому, що ніколи не знаєш, що там за сингулярністю переходу в інакше. Іноді на безперспективних напрямках мертвих зон розвитку доводиться жертвувати частинами свідомості.

Водночас це ніяк не спростовує наше твердження про те, що принципово неможливий спекулятивний надрозум, тобто розум, що розумнішає всередині себе, отримуючи з бібліотеки чи навіть з Інтернтету знання і не маючи практичного життя ні в природному та соціальному світі, ні в віртуальних світах, де природа та соціум можуть бути змодельованими.

Зрештою існує найбільш масштабне заперечення ідеї Лема щодо розвитку Голема. Цивілізаційна, соціальна та інтелектуальна енергія хоча б одного сингулярного переходу є великою — вона вартує більшості енергії та ресурсів, які є в розпорядженні на наявному рівні пізнання. Вихід на наступний рівень пов’язаний з принципово іншим рівнем енергії і іншими ресурсами та потребує теж достатньо тривалого часу (чи ресурсів іншого виміру).

Але що точно можна сказати, то сингулярні переходи не можуть відбуватися так швидко один за одним, як про це говорить Голем. Бо на розуміння нового рівня розуму наявних надлишкових ресурсів та наявної енергії того, хто прийшов туди з наявного рівня, завжди буде дуже мало. Навіть якщо там є енергетика, необхідна для існування на наявному чи навіть новому рівні, там все одно завжди не досить енергетики для переходу на наступний рівень.

Інакше кажучи, там на тому новому рівні розуму повинна виникнути своя цивілізація, яка осягне і накопичить новий тип енергії та нові ресурси. Там, на тому новому рівні, Голем буде лише такою ж нікчемною розумною істотою, якою є кожен з нас людей для нього на наявному рівні. А тому два сингулярні кроки підряд, які зробили деякі інші його колеги-надрозуми, є принципово неможливими.

В чому концептуальне обмеження уяви Лема для його часу?

Цивілізаційну схему, в якій працював Лем, можна коротко описати. Наука є домінуючим світоглядом. Наукові фантасти пишуть фантастику в рамках наукових чи навколонаукових уявлень. Вчені та інженери-технологи-конструктори-винахідники, а найголовніше діти, читають фантастику, яка розбурхує їх уяву та стимулює до нових наукових відкриттів, винаходів, технологій, технічних пристроїв та конструкцій. Держава стимулює частину фантастичних проектів, які посилюють її військову міць, збільшують рівень комфорту для громадян, виводять державу на нові горизонти можливостей та дозволяють конкурентно з іншими державами вести експансію в ці нові горизонти.

Ця цивілізаційна схема, в якій працював Лем ще до кінця 80-их років ХХ століття, себе вичерпала. З 90-их років ХХ століття цивілізаційна схема змінюється повністю і фундаментально. Наука перестає бути домінуючим світоглядом. Поступово наука була витіснена технологією в державному фінансуванні. З 60-их років ХХ століття наука на фундаментальному рівні не розвивається. Технологія розвивається однобоко — найбільше розвиваються комп’ютерні та телекомунікаційні технології. Наукова фантастика значно поступилася своїм соціальним місцем містико-магічній фентезі, технологічній фантастиці-фентезі — кіберпанку, стімпанку, технофентезі, альтернативній історії (включаючи попаданство), апокаліптичній та постапокаліптичній фантастиці-фентезі. Глобальна філософія постмодернізму проблематизувала науку та легітимізувала містико-магічну фентезі на тому ж самому, або навіть ще вищому рівні, що і наукову фантастику (постулат про множинність істин). Діти перестали читати наукову фантастику, перестали цікавитися фундаментальною наукою, стали більше цікавитися магією, прикладною наукою, технікою та технологією.

Водночас також можна виділити і принципово новий тип фантастики — сингулярну фантастику, родоначальником якої є Вернер Віндж. Це фантастика, яка описує принципові онтологічні зміни людства як нині відомої технологічної цивілізації у щось принципово інше. Тобто сингулярна фантастика як принципово новий вид фантастики і як чисто конструктивістська фантастика не продовжує наявні тренди та тенденції, а намагається шляхом конструктивістської уяви створити принципово нову реальність нового людства (постлюдства).

Ми вже не живемо в світі Лема. «Сума технології» вичерпала себе як цивілізаційний підхід на рівні свого світобачення. Перехід до конструктивістської фентезі був спрогнозований Артуром Кларком з 60-их по 90-ті роки ХХ століття у вигляді чотирьох законів.

1. Коли видатний, але похилого віку вчений стверджує, що щось можливе, то він майже напевно правий. Якщо ж він стверджує, що щось неможливе, він дуже ймовірно неправий.
2. Єдиний спосіб відкриття меж можливого — це зробити крок за ці межі в неможливе.
3. Будь-яку достатньо просунуту технологію неможливо відрізнити від магії.
4. Для кожного експерта існує аналогічний експерт з протилежною точкою зору.

Конструктивістська фентезі є сьогодні мейнстримом. Тобто містико-магічна фентезі, кіберпанк, стімпанк, технофентезі, альтернативна історія, апокаліптична та постапокаліптична фантастика в своєрідній формі просувають конструктивістські підходи до світобачення (світоконструювання).

Основним методом цих нових напрямків структурованої літературно-кінематографічної та комп’ютерно-іграшкової уяви стало світобудівництво, тобто будівництво світів в альтернативній історії, будівництво магічних світів, будівництво світів кіберпанку та стімпанку і т.д.

Отже світобудівництво та сингулярний перехід це те, про що трохи здогадувався Лем, дещо передбачав, але на що його уяви на вистачило, щоб спрогнозувати це прямо і безпосередньо, бо це означало б уже іншу книгу.

Сьогодні стала потрібна вже не — не «Сума технології», а «Сума конструювання», «Сума світоконструюваня» чи «Сума сингулярності».

Нет комментариев