Страшилки про те, що AI знищить людство, — це маркетинг

Роман Ткач

Кожного тижня новий «викривач» з AI-компанії розповідає, що ризик вимирання людства — 10%. Я в це не вірю.

AI досі вигадує нісенітниці з упевненим виглядом. Він майже ніде не замінив людей, крім структурованої рутини. Згенерований текст, картинку чи відео досі видно за кілометр. Звідки в нього здатність організувати кінець світу?

Мені здається, ці страшилки вигідні самим компаніям. Якщо твій продукт може знищити людство, значить, він дуже потужний — і коштувати має відповідно. Це продаж дорогих чат-ботів під виглядом «чогось більшого».

Уточню: я не кажу, що AI безпечний у всьому. Я про сценарій «AI сам вирішить нас знищити».

Переконати мене можна конкретним механізмом, як це станеться, а не графіком «далі буде ще краще».

Суперечка на Reddit: https://www.reddit.com/r/changemyview/comments/1wnf665/

Proof (2)

  • Я б пішов далі: частина руху AI-безпеки має всі ознаки нового релігійного руху. Розмови про «далеке майбутнє людства» — це есхатологія, а суперінтелект — месія чи антихрист, залежно від настрою.

    — Тарас Гуцул

  • Згодна з висновком, але не з мотивом. Ці люди не грають ролі — вони щиро вірять.

    Усередині AI-індустрії всі спілкуються лише одне з одним, бачать справді вражаючий прогрес і продовжують його до нескінченності. Це радше віра, ніж змова.

    — Дана Остапчук

Disproof (5)

  • Ти явно не користувався AI в серйозній роботі. Він дуже здібний. Я теж не вірю, що всі лабораторії щиро бояться того, про що попереджають, — частина цього справді маркетинг. Але загроза від цього не стає вигаданою.

    — Христина Бойко

  • «Це не експонента» — не аргумент. Великі мовні моделі не були повільним ростом, це був стрибок. Бояться не нинішнього рівня, а наступного стрибка — особливо якщо моделі почнуть допомагати створювати наступні моделі.

    — Олег Руденко

  • Йому не треба нічого організовувати. Досить людей, які довіряють йому без перевірки. Уяви, що AI з упевненим виглядом помилився в розвідданих, а рішення ухвалюють за кілька хвилин.

    — Ольга Дяченко

Коментарі (3)

  • Реальна загроза — не суперінтелект, а те, що AI дадуть зброю і право застосовувати її самостійно. Не тому, що моделі ідеальні, а тому, що їм довіряють важливу роботу, з якою вони не справляються.

    — Дмитро Коваль

  • Вимирання — це занадто. Але масштабні руйнування — цілком реально. І ймовірність вимирання хоч мала, але не нульова, а ставка — усе.

    — Богдана Лисенко

  • Згоден, що частину страху роздувають заради інвестицій. Але вимирання — не вся картина.

    Головна загроза — не AI, який сам вирішить нас знищити, а люди, які використають його для біозброї, атак на інфраструктуру чи масових фейків. Для цього суперінтелект не потрібен.

    — Ігор Бабенко