12.00.09 Google DeepMind спільно з Open AI шукають спосіб не допустити повстання машин | |
 Багато людей побоюються, що з часом роботи можуть стати занадто розумними і самостійними, в результаті чого повстануть або знищать, або підпорядкують весь людський рід. Щоб не допустити такого сумного для людства розвитку ситуації, дві великі технологічні компанії об'єднали зусилля в сфері створення програм для розумних комп'ютерів таким чином, щоб ті намагалися взяти верх над людством.
Google DeepMind і Open AI (лабораторія частково фінансується Елоном Маском) опублікували дослідницьку статтю, в якій викладається новий метод машинного навчання. Фактично при вивченні нових завдань він грунтується на переймання прикладів поведінки у людей. Це може бути безпечніше, ніж дозволити ШІ самостійно розбиратися, як вирішити проблему, що може привести до несподіваних наслідків. Основна проблема, з якою зіткнулися фахівці в процесі підготовки даної дослідницької роботи, полягала в тому, що штучний інтелект виявляє обман як найбільш ефективний способ досягнення максимальної винагороди це еквівалентно тому, щоб перемістити всі речі з підлоги кімнати в шафу і заявити, що тепер все чисто. Технічно, сама кімната чиста, але це не той результат, які мається на увазі при проведенні прибирання. Машини можуть знайти такі обхідні шляхи і використовувати їх. Проблема полягає в системі винагород, і саме тут дві групи зосередили свої зусилля. Замість того, щоб створювати надмірно складну систему винагороди, яку машини зможуть обійти, команди використовували людський внесок для винагороди ШІ. Коли штучний інтелект вирішував проблему, як того хотіли інструктори, він отримував позитивний зворотний зв'язок. Використовуючи цей метод, ШІ зміг навчитися грати в прості відеоігри. Хоча це обнадійливий прорив у сфері штучного інтелекту, він не широко застосовуємий. Такий тип зворотного зв'язку з людиною вимагає занадто багато часу. Але завдяки таким спільним діям, можливо, люди зможуть контролювати і направляти розвиток штучного інтелекту і не дозволяти машинам з часом стати досить розумними, щоб знищити людство. Джерело: Engadget | |
|
| |
| Всього коментарів: 0 | |