15.21.54 Штучний інтелект, наділений цікавістю, не зміг пройти повз телевізора | |
 Вчені OpenAI опублікували дослідження, в якому вивчили, як цікавість впливає на штучний інтелект. Тестування проводили за допомогою ігор та віртуального лабіринту, які він вивчав.
Як повідомляється, ШІ надали кілька ігор, не пояснивши ні що робити, ні як перемогти; також у нього не було завдань і, відповідно, він не отримував нагород за виконання завдань. Цікавість в даному випадку полягало в порівнянні алгоритмом навколишнього середовища до і після. Вірною дією вважалося така, яка призводила до максимальних змін. Всього в ході тестування дослідники використовували більше 50 класичних відеоігор. Деякі з них ШІ успішно пройшов: зокрема, він зумів освоїти 10 рівнів Mario Bros. Вчені пояснили це тим, що нове оточення в іграх часто означає новий рівень, і тут «машинної цікавості» виявилося досить, щоб штурмувати один рівень за іншим. Але була й зворотна сторона: іноді ШІ хотів з'ясувати, що буває при появі екрану «Game Over», і навмисно вибирав дії, які призводили до поразки і кінця гри. Поведінка «цікавого» ШІ дуже схоже на поведінку немовляти, відзначають експериментатори, оскільки він готовий досліджувати і сприймати інформацію без будь-якої винагороди. І якщо створювати роботів без запрограмованої нагороди за що-небудь, то вони стануть більш автономними, ніж зараз. При цьому така система, на думку фахівців, більш надійна і краще контролюється людиною. Втім, у «цікавого» ШІ є ті ж недоліки, що і у людей - їх легко відволікти. Крім вищезазначених тупикових дій в іграх, учeнь виявили та іншу проблему, коли помістили в лабіринт віртуальний телевізор і надали пульт від нього. В результаті, як тільки нейромережа знайшла телевізор, вона залишилася дивитися на мінливі зображення, перемикаючи «канали» у випадковому порядку. Єдине, що могло б відвернути ШІ від екрану - щось цікаве ззовні, проте знайти для нього більш цікаве заняття виявилося неймовірно складно. Теоретично, шанс того, що таке зображення на екрані телевізора буде ідентично попередньому, вкрай малий, тому цікавий ШІ буде вічно перемикати канали, відзначили вчені. Джерело: tproger | |
|
| |
| Всього коментарів: 0 | |