Попри всі переваги штучного інтелекту, майбутнє, в якому він присутній –пов’язане з багатьма ризиками. Так, на думку вченого Дена Гендрікса, зовсім скоро штучний інтелект зможе обманювати і маніпулювати людьми. Тому до нейромереж потрібно застосовувати суворі обмеження.
Егоїстична природа штучного інтелекту
Директор американського Центру безпеки штучного інтелекту Ден Гендрікс заявив, що нинішня ситуація може призвести до такого явища, як егоїзм штучного інтелекту.
“Ми стверджуємо, що природний відбір створює стимули для ШІ-агентів діяти всупереч інтересам людини. Наш аргумент ґрунтується на двох спостереженнях. По-перше, природний відбір може стати домінантною силою у розвитку ШІ. По-друге, еволюція шляхом природного відбору має тенденцію породжувати егоїстичну поведінку”, — написав у своїй статті Гендрікс.
Логіка Дарвіна
За словами науковця, розвиток штучного інтелекту цілком може відбуватися за принципами природного відбору, описаних Чарльзом Дарвіном.
“Конкурентний тиск між корпораціями та військовими призведе до появи ШІ-агентів, які з часом автоматизують людські ролі, почнуть обманювати суспільства і врешті доберуться до влади. Якщо такі агенти матимуть інтелект, який перевищуватиме людський, це може призвести до того, що люди попросту втратять контроль над своїм майбутнім”, — припускає Ден Гендрікс.
Потрібні обмеження
Науковець наголосив, що штучний інтелект уже зараз здатен розуміти людську психологію і поведінку. У майбутньому нейромережі зможуть обманювати людей і маніпулювати ними.
Тому, на думку Дена Гендрікса, потрібні жорсткі обмеження повноважень штучного інтелекту