Шість найгірших сценаріїв розвитку ШІ у реальному світі
Найгірший сценарій за участю штучного інтелекту (ШІ) знайомий усім із науково-фантастичних блокбастерів: машини набувають людського розуму, стають розумними і неминуче перетворюються на злих володарів, які намагаються знищити людську расу. Ця історія ґрунтується на нашому природженому страху перед технологіями, що є відображенням глибоких змін, які часто супроводжують нові технологічні розробки.
Однак, як каже Малкольм Мердок — інженер з машинного навчання і автор роману 2019 року «Квантова ціна» — ШІ не обов'язково має бути розумним, щоб знищити нас усіх. Є безліч інших сценаріїв, які зітруть нас з лиця землі до того, як розумний ШІ стане проблемою.
«Ми вступаємо на небезпечну й невідому територію зі посиленням спостереження та відстеження даних, і ми майже не розуміємо потенційних наслідків»
В інтерв'ю з експертами зі ШІ видання IEEE Spectrum виявило шість найгірших сценаріїв розвитку штучного інтелекту у реальному світі, які набагато буденніші, ніж ті, що показані у фільмах. Але вони не менш антиутопічні.
Коли вигадка визначає нашу реальність
Якщо ми дозволимо вигадці визначати нашу реальність, може статися непотрібна трагедія. Але який вибір, якщо ми не можемо відрізнити справжнє від фальшивого у цифровому світі?
У жахливому сценарії зростання дипфейків — фальшивих зображень, відео, аудіо та тексту, створених за допомогою передових інструментів машинного навчання, — може колись призвести до того, що особи, які ухвалюють рішення у сфері національної безпеки, вчинять реальні дії на основі хибної інформації, що спричинить велику кризу або, що ще гірше, війну.
Ендрю Лон, старший науковий співробітник Центру безпеки і нових технологій (CSET) Джорджтаунського університету, заявив, що «системи зі ШІ тепер здатні генерувати дезінформацію у великих масштабах». Створюючи великі обсяги та різноманіття фальшивих повідомлень, ці системи можуть приховувати їхню справжню природу та оптимізувати себе для досягнення успіху, поступово покращуючи бажаний вплив.
Саме уявлення про дипфейки в умовах кризи може також змусити лідерів вагатися у своїх діях, якщо достовірність інформації не можна своєчасно підтвердити.
Марина Фаваро, науковий співробітник Інституту досліджень і політики безпеки в Гамбурзі (Німеччина), відзначила, що «дипфейки за замовчуванням підривають нашу довіру до інформаційних потоків». І дія, і бездіяльність, спричинені дипфейками, можуть призвести до катастрофічних наслідків для всього світу.
Небезпечна гонка до дна
Коли справа доходить до ШІ та національної безпеки, швидкість є водночас і сенсом, і проблемою. Оскільки системи зі ШІ дають своїм користувачам великі переваги у швидкості, країни, які першими розробили військові застосунки, отримають стратегічну перевагу. Але якими принципами можна пожертвувати у цьому процесі?
Гелен Тонер, директорка зі стратегії в CSET, припускає, що криза може «початися як нешкідлива єдина точка відмови, через яку всі комунікації відключаються, викликаючи паніку у людей і зупинку економічної діяльності. Постійна відсутність інформації, супроводжувана іншими помилками, може призвести до того, що ситуація вийде з-під контролю».
Венсан Буланен, старший науковий співробітник Стокгольмського міжнародного інституту дослідження проблем миру (SIPRI) у Швеції, попереджає, що великі катастрофи можуть статися, «коли великі держави зрізають кути, щоб отримати перевагу першими. Якщо одна країна віддає перевагу швидкості, а не безпеці, випробуванням чи контролю з боку людини, це буде небезпечна гонка до дна».
Кінець приватності та свободи волі
З кожною цифровою дією ми створюємо нові дані — електронні листи, текстові повідомлення, завантаження, покупки, повідомлення, селфі та GPS-координати. Надаючи компаніям і урядам необмежений доступ до цих даних, ми передаємо інструменти спостереження та контролю.
З додаванням розпізнавання облич, біометрії, геномних даних і предиктивного аналізу зі ШІ Лон із CSET турбується, що «ми вступаємо на небезпечну й невідому територію зі зростанням стеження та відстеження за допомогою даних, і ми майже не розуміємо, які можливі наслідки».
Майкл С. Горовіц, директор Perry World House Пенсильванського університету, попереджає «про логіку ШІ і про те, що він означає для внутрішніх репресій. У минулому здатність автократів пригнічувати своє населення залежала від великої групи солдатів, деякі з яких могли стати на бік суспільства і здійснити державний переворот. ШІ може зменшити такі обмеження».
Сила даних, колись зібраних і проаналізованих, виходить далеко за межі функцій моніторингу і спостереження, дозволяючи здійснювати предиктивне управління. Сьогодні системи зі ШІ передбачають, які продукти ми купимо, які розваги перегляньмо і за якими посиланнями перейдемо.
Людська скриня Скіннера
Користувачі соціальних мереж перетворилися на щурів для лабораторних експериментів, які живуть у людських скринях Скіннера (скриня Скіннера — лабораторний прилад, що використовується для вивчення поведінки тварин), приклеєних до екранів своїх смартфонів, змушених жертвувати дорогоцінним часом і увагою платформам, які на цьому наживаються за їхній рахунок.
Гелен Тонер з CSET заявила, що «алгоритми оптимізовано так, щоб користувачі залишалися на платформі якомога довше». Пропонуючи винагороду у вигляді лайків, коментарів і підписок, пояснює Малкольм Мердок, «алгоритми замикають роботу нашого мозку, роблячи нашу наступну участь незаперечною».
Щоб максимізувати прибуток від реклами, компанії відволікають нашу увагу від роботи, сім'ї та друзів, обов'язків і навіть хобі. Що ще гірше, контент часто змушує нас почуватися нещасними і гірше, ніж раніше. Тонер попереджає, що «чим більше часу ми проводимо на цих платформах, тим менше часу витрачаємо на гонитву за позитивним, продуктивним і повноцінним життям».
Тиранія дизайну ШІ
Щодня ми віддаємо значну частину нашого повсякденного життя машинам зі ШІ. Це проблематично, адже, як зауважує Горовіц, «нам ще належить повністю усвідомити проблему упередженості в ШІ. Навіть з найкращими намірами дизайн систем зі ШІ, як даних для навчання, так і математичних моделей, відображає вузький досвід та інтереси упереджених людей, які їх програмують. І у всіх нас є свої упередження».
Лідія Костопулос, старша віцепрезидентка з нових технологій компанії KnowBe4, що займається інформаційною безпекою, стверджує, що «багато систем зі ШІ не враховують різноманітний досвід і характеристики різних людей». Оскільки ШІ вирішує проблеми, засновані на упереджених поглядах і даних, а не на унікальних потребах кожної людини, такі системи забезпечують рівень відповідності, якого немає в людському суспільстві.
Ще до появи ШІ дизайн звичайних предметів у нашому повсякденному житті часто обслуговував певний тип людей. Наприклад, дослідження показали, що автомобілі, ручні інструменти, включно з мобільними телефонами, і навіть температурні параметри в офісних приміщеннях були створені для чоловіків середнього зросту, що ставить людей різного зросту і статури, зокрема жінок, у незручне, а іноді навіть небезпечне становище.
Страх перед ШІ позбавляє людство його переваг
Оскільки сучасний ШІ працює з наборами даних, передовими статистичними моделями та алгоритмами прогнозування, процес створення машинного інтелекту зрештою зосереджений на математиці. За словами Мердока, «лінійна алгебра може робити шалено потужні речі, якщо ми не будемо обережні».
Але що, якщо люди настільки злякаються ШІ, що уряди регулюватимуть його так, що позбавлять людство багатьох переваг ШІ? Наприклад, програма DeepMind AlphaFold здійснила великий прорив у передбаченні того, як амінокислоти складаються в білки, що дозволило вченим визначити структуру 98,5% білків людини. Ця віха закладе плодотворну основу для швидкого розвитку наук про життя.
Подумайте про переваги покращеного спілкування і міжкультурного взаєморозуміння, які стали можливими завдяки безперешкодному перекладу на будь-яку комбінацію людських мов або використанню систем зі ШІ для пошуку нових методів лікування хвороб.
Регулятивні заходи з боку урядів для захисту від найгірших сценаріїв розвитку ШІ також можуть мати неприємні наслідки і призвести до власних непередбачуваних негативних наслідків, внаслідок яких ми настільки злякаємося могутності цієї вражаючої технології, що будемо опиратися тому, щоб використовувати її на благо, яке вона може принести у світ.
