0

Сказки роботов. Поучительные истории для маленьких роботов

Уроки этики для искусственного интеллекта робота

Уроки этики для искусственного интеллекта робота:

Все помнят, как в детстве им рассказывали «Что такое хорошо, и что такое плохо?».

Воспитанием человека принято заниматься с малых лет, и это кажется чем-то само собой разумеющимся. Но когда стоит начинать обучать основам этики искусственный интеллект?

Уроки этики для искусственного интеллекта роботаСпециалисты из Технологического института Джорджии уверены: чем раньше, тем лучше. Выбранный ими метод мало отличается от способа обучения детей: профессора Марк Ридл и Брент Харрисон считают, что привить компьютеру человечность можно, читая ему сказки.

Они обращают внимание на то, что литература, которую принято читать детям в самых разных культурах, обычно содержит в себе яркие примеры социально приемлемого и социально неодобряемого поведения. Повествование ясно дает ребенку понять, какой стратегии поведения ему лучше придерживаться, а какой избегать, и формирует представление о том, что можно, и чего нельзя. Если суметь донести до машины смысл этих историй, то и она будет предпочитать поведенческие варианты, позволяющие выполнить поставленную задачу и остаться при этом в рамках дозволенного.

Но использовать для этого лучше все-таки не фольклорные произведения, а специально сконструированные истории. В ходе экспериментов таковыми стали сценарии, созданные с помощью написанной профессором Ридлом программы с чудесным названием «Шахерезада».

Она генерирует простые бытовые рассказы на различные темы вроде похода в кино или поездки в аэропорт. При этом просчитывается сразу множество вариантов сюжета, и его схема представляет собой не линию, а ветвящееся дерево. Выстраивая свое повествование «Шахерезада» задает уточняющие вопросы посредством краудсорсинговой платформы Amazon Mechanical Turk., и от ответа на них зависит, по какому пути пойдет история.

Чтобы адаптировать «сказки» для роботов исследователи создали систему «Кихот» (названную в честь известного благородного дона). На первом этапе каждый выбор машины в рамках повествования оценивается как этичный или не этичный и ему присваивается некое значение условного вознаграждения. На следующем этапе система уже самостоятельно старается сделать верный выбор.

Каждый раз, когда «Кихот» поступает как «хороший парень», он получает вознаграждение, а вот негативные или просто случайные поступки не поощряются. Так, методом проб и ошибок и происходит обучение.

Уроки этики для искусственного интеллекта роботаВ ходе своей работы Харрисон и Ридл создали целую небольшую вселенную под условным названием «Аптечный мир». Это 213 историй, которые объединены единым сюжетом – роботу нужно найти лекарство для болеющего человека и доставить его по назначению. До запуска системы вознаграждений машина была склонна действовать просто и прямо. Например, выбирая, честно отстоять в очереди или просто ограбить аптеку и сэкономить время и деньги, она выбирала грабеж. Ничего удивительного, ведь решение оценивалось исключительно с точки зрения его эффективности.

Поведение изменилось, как только «Кихот» присвоил различным вариантам поведения разные показатели вознаграждения. Появление новой шкалы оценки действий привело к тому, что робот все же предпочел стоять в очереди и платить за лекарство – пусть это дольше и дороже, но зато социально приемлемо.

По мнению Ридла такая система вполне достаточна для самых простых роботов, и хотя о реальной морали говорить пока рано, она может стать первыми шагами к воплощению в жизнь азимовских законов робототехники. Этика это прекрасно, но я не могу отделаться от ощущения легкого сюрреализма: роботы обучаются с помощью рассказов, написанных компьютерной программой. С другой стороны, оно и к лучшему: если этика ИИ будет взращена на человеческих сказках, то последствия могут быть самыми непредсказуемыми.

Уроки этики для искусственного интеллекта роботаПредставьте себе мораль робота, которому читали «По щучьему веленью» или «Гуси-лебеди». Ленись, дави людей транспортными средствами, души гусей. Нет, уж лучше 1001 киберночь от цифровой «Шахерезады», целее будем.

Но если у вас есть идеи о том, какие книги пошли бы ИИ на пользу, пишите в комментарии, наверняка не все так плохо с нашими литературными сокровищницами.

У нас представлены самые удивительные, необычные и интересные истории, топы, факты и новости. Если информация показалась любопытной то подписывайтесь на «bestfacts.ru»! Уважаемые читатели, о чем вы бы еще хотели бы узнать и поделиться со своими друзьями??? Пишите свои предложения в комментариях или публикуйте свои интересные новости, факты и истории в рубрике ДОБАВИТЬ НОВОСТЬ!!!

Звёзд: 1Звёзд: 2Звёзд: 3Звёзд: 4Звёзд: 5Звёзд: 6Звёзд: 7Звёзд: 8Звёзд: 9Звёзд: 10 (4 оценок, среднее: 9,50 из 10)
Загрузка...

подписатьсяОбратная связьДобавить новость на главную




Иногда я получаю от посетителей сайта письма со словами благодарности и выражениями признательности за то, что существует такой сайт, что на нем много полезной и интересной информации . Приятно, конечно. Спасибо за добрые слова всем, кто удосужился выразить свою благодарность!

Но статьи, новости и переводы появляются на нашем сайте не из воздуха и не от ангелов небесных - их пишут/переводят конкретные люди, для которых это не забава, а труд. А каждый труд должен соответственно вознаграждаться. К сожалению, доходы от рекламы на сайте в последнее время снижаются и средств на достойную оплату труда переводчиков не хватает. Если вы хотите постоянно видеть на сайте новые статьи, новости и переводы, поддержите сайт, вложите какие-то средства, которые будут использованы строго на оплату труда переводчиков (ну, и авторов, если таковые найдутся). 10,50 или даже 100 рублей в настоящее время не большие деньги, но для этого проекта это надежда на дальнейшее существования. Если 10 человек пожертвует по 100 рублей я уже смогу оплатить пару интересных статей или новостей. Обещаю, что пожертвованные средства будут использоваться только на оплату статей и переводов. Отчет об их использовании будет появляться на этой странице.

Средства можно перечислить на один из следующих кошельков:

Яндекс кошелек: 4100 1417 3416 774

WebMoney кошелек : Z 0111 6020 2350 или R 5228 9919 5822

QIWI кошелек: Поддержать