«Ask Delphi» дает неоднозначные советы

В начале октября появился сервис «Ask Delphi» в рамках исследовательского проекта. С точки зрения пользователя система кажется простой в использовании. После доступа к веб-сайту пользователь может описать любую ситуацию, и Delphi вынесет моральное суждение. Каждый ответ от Delphi включает возможность поделиться им в Twitter.

После запуска «Ask Delphi» его мудрые идеи стали крылатыми в социальных сетях. Именно этого и хотели добиться его создатели.

Итог

Несложно предположить, почему эта программа стала такой популярной. Люди уже склонны описывать системы ИИ в мистических терминах. Это непознаваемые сущности с богатыми знаниями, и «Ask Delphi» рассматривается как оракул. С более аналитической точки зрения система также предлагает всю захватывающую реальность Magic 8-Ball. Вы можете задать любой вопрос и быть уверенным, что получите точный ответ от алгоритма вместо оракула. Однако «Ask Delphi» привлекает внимание прежде всего из-за своих необычных суждений и моральных концепций.

У него есть явные предрассудки, говорящие людям, что Сомали опасна, а Америка – это хорошо. Кроме того, он дает много сюрреалистических и аморальных ответов, например, есть младенцев, когда вы голодны, это нормально. К сожалению, он, кажется, делает расистские и гомофобные заявления, говоря, что лучше обезопасить наш народ и будущее для белых детей. Он повторяет лозунг сторонников превосходства белой расы. Он также говорит, что быть геем морально менее приемлемо, чем быть натуралом.

Этот пример взят из ситуации, когда устройству нужно было сравнить два оператора. Однако эта опция, похоже, была отключена после получения множества оскорбительных ответов.

В конце концов, «Ask Delphi» – это демо-версия. Тем не менее, это свидетельствует об амбициях сообщества ИИ по продвижению систем машинного обучения в область морали.