Три закони робототехніки від Айзека Азімова – і одне найважливіше правило, яке він упустив
Тим, хто відчував силу все своє життя, буде ненависною думка про те, щоб її втратити. Якщо ви народилися щасливчиком, коли фортуна на вашому боці, ви люто чинитимете опір думкам про те, що її можуть у вас відібрати. Якщо вам казали, що ви найяскравіший, найсильніший і найкращий, скільки ви пам’ятаєте, вам буде боляче дізнатися, що ви явно нижче середнього. Ніхто з нас не любить, коли його принижують. Жодна людина не хоче почуватися неповноцінною.
Ми всі виросли з усвідомленням того, що ми – хижаки. Кожен інстинктивно вірить, що Homo sapiens, з нашим величезним інтелектом та дивовижним талантом до винаходів, по праву та справедливості став домінувати у цьому світі. Ми – царі та володарі природи. Вклоніться перед нашими Моцартами та Ейнштейнами!
Ось чому багато людей вважають штучний інтелект і нові технології такими страшними. Раптом перед нами відкрилася перспектива усвідомити, що ми більше не найкращі та найрозумніші. В одну мить у 21 столітті ми перетворилися з джерела всієї мудрості та творчості на незграбних мавп, що вовтузяться із застарілими інструментами. Саме ця ідея лежить в основі одного з найкращих оповідань Айзека Азімова: «… що Ти пам’ятаєш про неї».
«… що Ти пам’ятаєш про неї»
Є відомий вислів (сумнівно приписується Ганді), який говорить: “Спочатку вони тебе ігнорують, потім з тебе сміються, потім із тобою борються, а потім ти їх перемагаєш”.
Фраза стосувалася революційних ідей і рухів, але це також вірно і для того, як ми ставимося до штучного інтелекту.
У нас вже давно є комп’ютери. Більшість людей, які читають цю статтю, виросли разом з ними. Вони були всюдисущим тлом нашого повсякденного життя протягом півстоліття. Ми працюємо на ноутбуках та носимо із собою смартфони; ми користуємося калькуляторами, електронними таблицями та інтернет-банкінгом; ми розмовляємо з голосовими помічниками та дозволяємо додатку підказати нам найшвидший маршрут додому. Все це є прийнятним. Вони корисні та ефективні, причому абсолютно не загрозливим чином.
Звичайно, ми не можемо обчислювати суми так, як це робить калькулятор, але калькулятор не може розмовляти. Так, ми не можемо визначити, чи є пробки на шосе, але наш GPS не зможе створити витвір мистецтва. Технологічні винаходи хороші до тих пір, поки вони не становлять жодної екзистенційної загрози для нашого існування. Вони хороші як дива чи розвага, або якщо вони демонструють ізольований, вузький інтелект, тому що наше життя при цьому триває, в основному, як завжди. Ми можемо ігнорувати їх або сміятися з того, що голосовий помічник не розуміє нас, коли ми навмисно перекручуємо слова.
Однак сьогодні ми перебуваємо на порозі величезних змін. Майже відразу ШІ (Штучний інтелект) бахнув нищівним вибухом. Він створює твори мистецтва та книги, музику та фільми. Він веде бесіди та розпізнає обличчя. Одним словом, ШІ робить все те, в чому ми вважаємо себе кращими та винятковими. А в деяких випадках він робить це краще за нас. За кілька місяців людина перетворилася з центру Всесвіту на щось, дуже схоже на бета-тест.
Саме цю ідею Азимов досліджує у своєму оповіданні «… що Ти пам’ятаєш про неї». У тому світі люди з жахом та підозрою ставляться до всіх роботів та штучного інтелекту. Вони лобіюють уряди та корпорації, щоб ті ніколи не виробляли нічого навіть віддалено подібного на потужну машину, яка змінює життя. І ось одна з цих корпорацій дає відсіч. Два найвражаючіші ШІ створюють геніальний план, щоб змусити людей довіряти їм: уявити роботів, які не становлять жодної загрози, але при цьому корисні. Привнести ШІ у світ людей таким чином, щоб він був незамінним, але при цьому видавався нешкідливим. Нехай люди підключаються до машини. Згодом можуть з’явитися складніші роботи та узагальнений інтелект – і все це за умови, що вони знаходяться під повним людським управлінням. Люди так переймаються не тим, що вони є другими, а про те, що вони не контролюють ситуацію. Важлива не неповноцінність, а безсилля.
Три закони робототехніки Азімова
Всі книжки Азімова, як правило, обертаються навколо його “Трьох законів робототехніки”. Ці закони є механізмами, що дозволяють людині тримати все під контролем. Вони свідчать, що роботи повинні завжди підкорятися і ніколи не завдавати шкоди людині. У повному вигляді вони виглядають так:
- Робот не може завдати шкоди людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди.
- Робот повинен підпорядковуватися наказам, що віддаються йому людьми, за винятком випадків, коли такі накази суперечать першому закону.
- Робот повинен захищати своє власне існування, якщо такий захист не суперечить першому чи другому законам.
Розповіді Азімова блискуче працюють як наукова фантастика, але також показують нам, як важко – навіть неможливо – створити безпроблемні закони управління будь-яким інтелектом. Завжди знайдеться лазівка чи виняток. Усі закони потребують свободи дій та гнучкості, інакше вони зламаються (або зламаються ті, кого вони намагаються захистити). Як говориться в недавній статті в журналі Science Robotics, розповіді Азімова “попереджають про неймовірність розробки невеликого набору простих правил для адекватного проєктування або регулювання складних машин, людей та їх взаємодій”. Можливо, це те, над чим варто задуматись людям, які закликають зробити піврічну паузу у розробці ШІ.
В оповіданні «… що Ти пам’ятаєш про неї» поворот сюжету особливо прозорливий. Роботи інтерпретують слово “людина” як така, що володіє “вищим інтелектом”. Люди виділяють себе з інших видів завдяки таким якостям, як креативність та високий інтелект. Але якщо штучний інтелект є кращим за цими характеристиками, чи мають вони більше право називатися “людьми”, ніж він сам? У світі, де людина низведена до рівня неповноцінності, чи означає “людина” просто наявність геному Homo sapiens? Якщо або коли з’явиться загальний штучний інтелект, то це буде не просто загроза нашому способу життя. Це буде загроза тому, як ми взагалі розуміємо людство.
Відсутній четвертий закон
У міру того, як ми переходимо у світ штучного інтелекту, який робитиме людські речі краще за людей, більшість із нас все одно захоче знати, що зроблено людиною, а що ні. Для багатьох важливо, щоб роман, який вони читають, був написаний людиною, а не машинним алгоритмом. З високою часткою ймовірності для вас має значення, чи написано вірш, пісню чи витвір мистецтва роботом. Можливо, Азімов упустив важливий четвертий закон: Робот повинен на вимогу ідентифікувати себе. Ми маємо право знати, чи ми взаємодіємо з людиною, чи штучним інтелектом.
