Організація Future of Life Institute опублікувала відкритий лист, який закликає лабораторії штучного інтелекту хоча б на пів року призупинити розробку великомасштабних систем ШІ. Ілон Маск, Ювал Ной Харарі та інші підписанти наголошують на “глибоких ризиках для суспільства та людства” через низький рівень контролю машинного розуму. Чи дійсно розвиток штучного інтелекту настільки небезпечний та які потенційні загрози несе людству ШІ — дізнавався “Ми-Україна”.

Чи обґрунтовані побоювання Маска

У листі наголошується, що лабораторії штучного інтелекту нині залучені до “неконтрольованих перегонів” з розробки та впровадження систем машинного навчання, які ніхто, навіть їхні творці, не може зрозуміти, передбачити й надійно контролювати”.

“Тому ми закликаємо всі лабораторії ШІ негайно призупинити як мінімум на 6 місяців навчання систем ШІ більш потужних, ніж GPT-4”, — йдеться у листі. “Ця пауза має бути публічною та перевіркою, що піддається, і в ній повинні брати участь усі ключові учасники. Якщо така пауза не може бути прийнята швидко, уряди мають втрутитися та запровадити мораторій”.

Наголошується, що лабораторії штучного інтелекту та незалежні експерти повинні використати цю паузу для спільної розробки та впровадження набору протоколів безпеки Це необхідно для вдосконаленого проектування ШІ. Протоколи мають ретельно перевірятися й контролюватися незалежними зовнішніми експертами.

Така позиція не є новою для Маска, який неодноразово виступав із критикою ШІ. На його думку, нестримний розвиток штучного інтелекту – це “найбільша екзистенційна загроза” для людства.

Він навіть пропонував губернаторам створити орган, який би займався регулюванням штучного інтелекту. За словами підприємця, регулювання розвитку штучного інтелекту має випереджати успіхи в його розробці.

“Facebook, Google, Amazon, Apple – всі вони вже знають про вас дуже багато. Штучний інтелект, що буде створений в середині цих компаній, отримає велику владу над людьми. А концентрація влади в одних руках завжди породжує величезні ризики. Лише декілька людей в Google працюють над створенням штучного інтелекту, без будь-якого спостереження ззовні – так бути не повинно”, – застерігав Ілон Маск.

Чи дійсно ситуація настільки серйозна? Журналісти Wall Street Journal поспілкувалися про це з ученим-бігевіористом Ґердом Ґіґеренцером. На його думку, штучному інтелекту дозволяють занадто багато, а саме – приймати рішення. Саме в цьому криється небезпека сучасних алгоритмів, адже людина стає залежною від них.

Науковець вважає, що цифрові технології можуть призвести до поширення автократичних систем. Бо серед переваг, які вони мають, є й величезна вада – схильність з боку урядів і технологічних компаній до стеження. Оскільки люди зазвичай не читають політику конфіденційності, вони не знають про це. А ще політики конфіденційності створені так, що їх важко зрозуміти – вони занадто довгі та складні.

Як приклад Ґіґеренцер навів роботу соціальних мереж. Він порівняв їх з безплатною кав’ярнею. Всі ходять до неї, бо там безплатна кава, що врешті  приводить до банкрутства інших аналогічних закладів. У цій кав’ярні, ви отримуєте свою безплатну каву, але мікрофони та відеокамери записують усе, що ви говорите і робите. Потім уся ця інформація відправляється на аналіз. Як наслідок, ви в цій кав’ярні (соцмережі), стаєте не клієнтом, а продуктом. Приблизно в такій ситуації, каже науковець, перебувають користувачі Facebook, Instagram та інших платформ. 

Ще одним аргументом на користь Маска та інших підписантів відкритого листа є висновки науковців з Університету Брауна (США) щодо перспектив розвитку штучного інтелекту. Науковці не розглядають “кіношних” ризиків розвитку ШІ, при яких надрозумні машини захоплять світ. На думку вчених, ризики розвитку технології набагато витонченіші, але не менш небезпечні.

Одна з таких небезпек — використання ШІ зі злим умислом. Наприклад, створення діпфейків для поширення дезінформації або завдання шкоди репутації окремих людей. Або створення ботів, які маніпулюють громадською думкою.

Серед інших загроз є наслідки “аури нейтральності та неупередженості” при прийнятті рішень ШІ. Йдеться про рішення, які в масовій свідомості сприймаються як об'єктивні, навіть якщо вони є наслідком дискримінації чи маніпуляції.

Вчені також застерігають від “техно-панацеї”. ШІ може сприйматися як панацея від багатьох проблем, хоча він є лише інструментом для їх вирішення. У міру розвитку технології все частіше виникає спокуса використовувати ШІ для вирішення тих чи інших проблем. Однак розв'язання простих питань може зумовити виникнення нових, набагато серйозніших, проблем. Наприклад, системи, які автоматизують доступ до соціальних послуг, можуть почати дискримінувати біженців або людей, які опинилися в скрутному становищі.

Штучний інтелект і економіка: чого очікувати

Міжнародні організації та дослідницькі установи бачать епоху ШІ як таку, що може призвести до великих потрясінь в економіці. У Міжнародному валютному фонді прогнозують, що штучний інтелект може збільшити розрив між багатими й бідними. Адже інвестиції перетікатимуть у держави з розвиненою економікою, де вже впровадили автоматизацію. Робочі місця в країнах, що розвиваються, замінять роботами, а не доповнять ними. Тому що саме дешева робоча сила забезпечувала перевагу цим країнам.

Схожу картину надає й Національне бюро економічних досліджень, яке проаналізувало дані з 1980 до 2020 року. Аналітики дійшли висновків, що поступова автоматизація виробничих процесів призводить до того, що багаті й освічені стають багатшими, а бідні й неосвічені — біднішими.  Серед інших висновків:

• Техніка або повністю замінила тих, хто займався фізичною працею, або зменшила їхню зарплату. Заробіток людини без вищої освіти зараз на 15% нижчий, ніж у 1980 році.

• Основною причиною зміни в зарплатах є те, що компанії автоматизували завдання, які раніше виконували люди.

• За останні 40 років люди з вищою освітою та “білі комірці” не втратили в доходах   — вони лише збільшились.

Дослідницькі компанії передрікають велике скорочення робочих місць через автоматизацію. І мова не лише про людей, які заробляють собі на життя фізичною працею. Так, аналітики Wells Fargo прогнозують, що до 2029 року близько 200 тисяч робочих місць у банківській індустрії заберуть роботи.

Фахівці з McKinsey Global Institute дивляться ширше й вважають, що до 2030 року від 400 до 800 млн працівників в усьому світі можуть втратити свої робочі місця через автоматизацію.

А в IBM переконані, що понад 120 млн працівників будуть змушені пройти перепідготовку через вплив ШІ на їхню роботу. Для розвитку нових знань і навичок потрібно богато часу. Бо все частіше йдеться про високотехнологічні галузі, такі як data-science чи аналітика метаданих.

У звіті Міжнародного економічного форуму за 2020 рік йшлося про зникнення 85 млн робочих місць у 26 найбільш розвинених країнах і країнах, що розвиваються. У документі за 2021 рік зазначається, що повна автоматизація праці відбудеться до 20141 року.

Не виключено, що під загрозою перебувають навіть ІТ-фахівці, особливо після того, як нейромережі поступово вчаться писати коди. Особливо в цьому занятті лідирує ChatGPT.

Аби побачити, наскільки потрібною буде ваша робота у майбутньому, можна скористатися сайтом WillRobotsTakeMyJob. Там можна ввести назву вашої професії й побачити ризики її втрати через автоматизацію.

Невже все настільки погано

Після таких прогнозів можна подумати, що штучний інтелект може лише контролювати вибір людей та знищувати робочі місця. Насправді це не так. Колись й інтернет викликав багато занепокоєння, але воно не виправдалося. Вважалося, що з його розвитком зникне багато робочих місць, натомість виникли мільйони нових.

До того ж ШІ-системи можуть виконувати дуже вузьке коло завдань. На відміну від людей, вони не здатні вийти за рамки наявних даних, створювати й впроваджувати інновації, міркувати творчо. У цьому впевнений колишній технічний та операційний директор компанії SAS Олівер Шабенбергер.

На Всесвітньому економічному формі-2021 окрім застережень були й позитивні сценарії. Зокрема такі:

• Машини займатимуться рутиною та небезпечною роботою. А люди обиратимуть біль творчі й цікаві професії. Для цього будуть потрібні сильні профспілки та розширення представництва працівників у корпоративних радах.
• Поява нових професій, адаптація людей до технологічних змін, можливість знайти себе на ринку праці через креативність, а також сприяння перепідготовці. Однак без перекваліфікації для тих, хто має таку потребу, проблема безробіття не зникне.
• ШІ підвищує продуктивність і стимулює зростання світової економіки. Люди зможуть робити більше, домагатися більшого та ділитися цим. Але будуть потрібні додаткові заходи — від запровадження глобального податкового режиму до страхування від безробіття.
• З розвитком ШІ добробут перестане не залежатиме від роботи. На перший план вийдуть неоплачувані активності: волонтерство, дослідження, самовдосконалення тощо.

Прикладом позитивного використання технологій штучного інтелекту може стати український проєкт UADamage. Це конвеєр нейронних мереж, який аналізує пошкодження, завдані російськими окупантами в Україні. Система зі штучним інтелектом аналізує пошкодження різного рівня інфраструктури та фіксує руйнування на спеціальній карті. 

Також проводиться класифікація пошкоджень за критеріями: а) обʼєкти без видимих пошкоджень; б) обʼєкти, які зазнали незначних пошкоджень; в) обʼєкти, що мають великі пошкодження; г) повністю знищені обʼєкти. Система дуже швидка й може проаналізувати територію міста площею 50 квадратних кілометрів всього за кілька хвилин.

Нагадаємо, "Ми-Україна" знайшов 10 зручних нейромереж для створення унікальних текстів і зображень.