OpenAI попереджає, що суперрозумний штучний інтелект може “призвести до безправ’я людства або навіть до його вимирання”. Тому вона створює команду, щоб зупинити це.
Що станеться, якщо суперінтелектуальний ШІ, розумніший за найрозумнішу людину, одного дня вийде з-під контролю? Нова команда OpenAI прагне зробити так, щоб ми ніколи цього не дізналися.
У своєму оголошенні на цьому тижні OpenAI заявила, що формує команду, яка буде “керувати і контролювати ШІ-системи, набагато розумніші за нас”.
Лабораторія штучного інтелекту також заявила, що суперінтелект, який може з’явитися протягом наступного десятиліття, стане найвпливовішою технологією з усіх коли-небудь створених і допоможе вирішити найважливіші світові проблеми. Але після цього з’явилося досить страшне попередження про те, що він “також може бути дуже небезпечним і може призвести до безправ’я людства або навіть до його вимирання”.
Наразі, за словами компанії, люди можуть стримувати штучний інтелект, тому що вони розумніші. Але що станеться, коли ШІ перевершить людину?
Саме тут і з’являється нова команда на чолі з нинішнім головним науковим співробітником дослідницької лабораторії та нинішнім керівником відділу вирівнювання. Окрім цього керівництва, команда складатиметься з найкращих дослідників та інженерів OpenAI, а також 20% поточних обчислювальних потужностей.
Кінцевою метою проекту є створення “автоматизованого дослідника вирівнювання на рівні людини”, або ШІ-системи, яка досягає поставленої мети і не виходить за межі заданих параметрів. Команда планує досягти цього у три етапи:
- Розробити розуміння того, як ШІ аналізує інший ШІ без участі людини;
- Використовувати ШІ для пошуку будь-яких проблемних зон або вразливостей;
- Навмисно дезінформувати ШІ, щоб побачити, чи буде це виявлено.
Коротше кажучи, команда людей з OpenAI використовує ШІ, щоб допомогти їм навчити ШІ тримати суперрозумний ШІ під контролем. І вони думають, що впораються з цим завданням за чотири роки. Вони визнають, що це амбітна мета, і успіх не гарантований, але вони впевнені у своїй роботі.
Джерело: ZDNET
