11.22.27 Google розробляє «аварійну кнопку» запобігання потенційного повстання машин | |
 Говорячи конкретніше, фахівці компанії Deep Mind, раніше створила ШІ, якому вдалося перемогти людей в го, розробила захисний фреймворк. Його головне завдання - не дати штучному розуму з'ясувати, як можна запобігти або викликати вимирання людства незалежно від його дій. Останньому чиннику відводять особливо високий пріоритет, так що за слухняність передбачені спеціальні нагороди. «Процедура безпечного завершення роботи може стати в нагоді для відновлення контролю над роботом, який веде себе неналежним чином, допоможе вийти з делікатної ситуації, або стати тимчасовим засобом досягнення тієї чи іншої мети», - пишуть дослідники. Фахівці Deep Mind не впевнені, що розроблений ними захист механізми буде сумісний з усіма алгоритмами. Головним чином це стосується пошукової політики, що є важливою частиною машинного навчання. Судячи з усього, існує ще чимало невирішених завдань на шляху до впровадження подібної системи. Джерело: Engadget | |
|
| |
| Всього коментарів: 0 | |