Посестри. Часопис №106 / Станіслав Лем і Філіп К. Дік. Частина третя

Продовження. Початок у номерах 98, 101

Наукове підґрунтя спроб відрізнити людину від андроїда у творах Станіслава Лема і Філіпа К. Діка (тест Тюрінга)

Оповідання «Трибунал» Станіслава Лема і роман «Чи мріють андроїди про електричних овець?» Філіпа Кіндреда Діка значною мірою базуються на необхідності відрізнити людину від андроїда. У Лема командор Піркс має надати експертний висновок, чи придатні нелінійники до роботи на комічних кораблях, а в Діка – мисливець за головами Рік Декард повинен деактивувати андроїдів, які втікають із позаземних колоній на Землю. Письменники ретельно розробили тему розрізнення людей і андроїдів, проаналізувавши риси, завдяки яким можна було б із упевненістю сказати, з ким мають справу головні герої творів.

Варто бодай схематично окреслити, у який спосіб намагання відрізнити роботів від людей у обох літературних творах дотичні до «тесту Тюрінга», заснованого на так званій грі в імітацію. Отже, у 1950 році британський учений Алан Тюрінг у своїй праці «Обчислювальна техніка та інтелект»Computing Machinery and Intelligence[1]запропонував для розрізнення машини (цифрового компʼютера[2]) і людини гру[3], у якій беруть участь людина (person), машина (machine) і дослідник (interrogator), котрий ставить їм запитання і перебуває в окремій кімнаті. Останній на основі бесіди (обміну текстовими повідомленнями з обома співрозмовниками) має визначити, хто із двох його співрозмовників – людина, а хто – машина.

Завдання машини – переконати дослідника в тому, що машина – це людина, задання людини – намагатися допомогти досліднику визначити, хто з його співрозмовників – машина19, с. 434.[2]. Якщо дослідникові не вдасться цього зробити правильно, тоді можна вважати, що машина пройшла тест. Тест Тюрінга викликає багато заперечень і запитань, методика його проведення також неоднозначна і потребує певних уточнень[4], однак, як твердять деякі дослідники, донедавна машині не вдалося його пройти, хоча спроби такі регулярно здійснюють.

Навіть попри створення надзвичайно розвинених генераторів мови, таких як GPT-3 (2020), [MB1] про те, щоб вони успішно пройшли тест Тюрінга, досі не йшлося. У 2022 році інженер Google Блейк Лемоін, який тестував LaMDALanguage Model for Dialogue Applications[3] (мовна модель для діалогових додатків, яка завдяки міліардам слів із інтернету може імітувати мовлення), зробив заяву, що LaMDA – розумна. Натомість компанія Google заявила: немає доказів того, що LaMDA має свідомість. Це перший випадок, коли машина ввела людину в оману і змусила їй повірити, буцімто вона має свідомість, але фахівці пояснюють, що тест Тюрінга оцінює лише здатність машини удавати людину, спроможність машини пройти цей тест іще не свідчить про наявність інтелекту.

У згадуваній праці «Обчислювальна техніка та інтелект» Тюрінг виклав також свої передбачення щодо того, якими можуть бути обчислювальні машини в 2000-х роках. Він, зокрема, писав: «Я вважаю, що орієнтовно через 50 років можна буде програмувати компʼютери з обсягом памʼяті приблизно 109 і змушувати їх грати в імітацію настільки добре, аби особа, котра ставить запитання, мала шанси правильної ідентифікації не вищі ніж 70 відсотків через пʼять хвилин від початку опитування. Вважаю, що запитання “Чи можуть машини мислити?” буде надто беззмістовним, щоб його обговорювати. Однак, на мою думку, наприкінці століття використання слів і загальної обґрунтованої думки зміниться настільки сильно, що можна буде говорити про мислення машин, не очікуючи заперечень у відповідь»19, c. 442.[4].

Натомість сьогодні, поряд із заявою Лемоіна про те, що LaMDA має свідомість, парадоксальним може видатися той факт, що деякі дослідники розвінчують можливість існування штучного інтелекту та перевершення ним розумових здібностей людини. Так, наприклад, у статті «Штучність та інтелект»Artifice and Intelligence[5] виконавча директорка Центру приватності й технології[5]  Емілі Такер відмовляється навіть використовувати терміни «ШІ» та «машинне навчання» як навʼязувані корпораціями, що розробляють сучасні технології (зокрема, і з комерційною метою). На думку Такер, згадані терміни не відповідають дійсному стану речей, їх слід замінити на адекватніші, адже ШІ, здатного самостійно мислити або перевершувати в чомусь людину, насправді не існує. Варто, натомість, говорити про великі масиви даних, певні алгоритми розпізнавання, генерування текстів, образів тощо.

Деякі дослідники відзначають подібність між тестом Тюрінга та мовним тестом Рене Декарта. Так, канадієць Деррен Абрамсон на основі вивчення архівних документів у своїй статті «Вплив Декарта на Тюрінга» доводить, що на ідеї британського вченого і створення тесту Тюрінга вплинули погляди французького філософа на розрізнення людини й машини. Декарт, зокрема, вважав, що машина не може послуговуватися мовою так само, як людина, адже вона не є розумною, про це він писав у «Міркуванні про метод»4, c. 44–45.[6]. Як відзначає Абрамсон, основною ідеєю праці Тюрінга 1950 року є те, що «мислячі створіння можна відрізнити від немислячих створінь завдяки гнучкій здатності перших послуговуватися природньою мовою» 1, c. 548.[7]. Абрамсон цитує також Джека Коупленда, котрий влучно відзначив таке: «Ідея, що здатність використовувати мову – це ознака мислячої істоти, має довгу історію. За іронією долі, французький філософ сімнадцятого століття Рене Декарт запропонував вважати розмову надійним способом відрізнити будь-яку машину […] від мислячої істоти»3, c. 38–39.[8].

У своїй статті Абрамсон твердить, що Тюрінг знав про «мовний тест» Декарта, мав його на увазі, пишучи свою працю «Обчислювальна техніка та інтелект», а також «за його задумом, гра в імітацію повинна була відігравати епістемологічну роль, подібну до тієї ролі, яку, за ідеєю Декарта, мав відігравати мовний тест»1, c. 544.[9]. Крім того, Абрамсон доходить висновку, що «[…] тест Тюрінга і мовний тест Декарта мають одну мету – випробувати наявність певної властивості, притаманної розуму, і такої, яку, як дехто вважає, неможливо застосувати в суто машинах».

Порівнювані у статті літературні твори є більш оптимістичними щодо вдалого розвитку так званого штучного інтелекту, ніж нинішня реальність. У оповіданні Лема та романі Діка люди не можуть відрізнити тих роботів, з якими мають справу (взаємодіють, спілкуються), від людей, а отже, можна вважати, що тест Тюрінга ці андроїди можуть із легкістю пройти. Натомість люди шукають інших критеріїв визначення, хто є людиною, а хто – андроїдом. У Лема – командор Піркс доходить висновку, що остаточним критерієм визначення є людяність, яка обʼєднує в собі ті риси, що роблять людину слабшою за робота (емоційність, «алогічність доброти», «шляхетне серце», «примітивізм морального поривання»; «дефекти», «недоліки», «недосконалість» людини) 7, c. 424.[10].

Піркс має ще складніше завдання – пояснити корпораціям, які виробляють андроїдів, чому людина зі своїми слабкостями і недоліками все ж краща за досконалих (принамні вони такими видаються) фізично та інтелектуально роботів. Командор вирішив «[…] знайти таку ситуацію, за якої слабкість і фізична недосконалість людини будуть кращими за силу і нелюдську бездоганність…» У Діка – головним і наразі безпомильним критерієм розрізнення роботів і людей є унікальна здатність останніх до емпатії (тобто також їхня людяність).

Декард усвідомлює, накільки важливо мати надійний інструмент для викриття андроїдів. Мисливець за словами розуміє: якщо тест Войґта-Кампфа не дозволить йому відрізнити андроїда «Нексус-6» від людини, корпорації «Роузен» доведеться відкликати всіх андроїдів подібного зразка з ринку. Декард збагнув: «Я можу навіть змусити їх відмовитися від виробництва своїх моделей “Нексус‑6”; результати, які я отримаю впродовж наступної години, можуть вплинути на діяльність усієї корпорації. Вони стануть визначальними для подальшої долі “Корпорації Роузен” тут, у сполучених Штатах, у росії й навіть на Марсі»20, c. 59–60.[11].

У оповіданні Лема андроїди і люди допомагають Пірксу (дослідникові) відрізнити роботів від людей (так, як це передбачено тестом Тюрінга). У романі Діка – тест Войґта-Кампфа нагадує бесіду дослідника з машиною. Проте до уваги беруться не просто відповіді на запитання, а, як пояснює Рік Декард Рейчел Роузен, «Відома первинна рефлекторна реакція, так званий сором або збентеження, відповідь організму на морально приголомшливий подразник. Вона не підконтрольна силі волі, на противагу електропровідності шкіри, диханню або частоті серцевих скорочень»; до уваги беруться також «коливання в очних мʼязах»[6]. Машини жодного разу не змогли обдурити дослідника (Ріка Декарда), так само, як машини досі не могли пройти тест Тюрінга, принаймні до 2022 року (LaMDA). Крім того, дослідники не даремно звертають увагу на те, що імʼя головного персонажа роману Діка – Рік Декард – перегукується з іменем Рене Декарта. Це є щонайменше алюзією до роздумів французького філософа і вченого щодо того, як відрізнити машину від людини, але може також гіпотетично свідчити про те, що Дік відсилає читача не лише до Декарта, але й до Тюрінга[7].