Global Look Press
Компании Google и OpenAI вместе с исследователи из university of California, Беркли и Стэнфордского университета, сформулировал пять практических проблем, связанных с развитием машины, имеющие искусственный интеллект. Технические подробности работы приведены в статье, опубликованной в ArXiv.orgи проблемы с простых примеров, описанных в блоге Google соавтор исследования Крис Ола.
Как указано в публикации, на сегодняшний день много дискуссий опасности искусственного интеллекта носил спекулятивный характер. Совместной работы, компании, университеты и позволяет определить конкретные проблемы, которые необходимо решить при разработке системы, искусственный интеллект.
Проблемы, описанные в первой под названием «избегание негативных побочных эффектов» заключается в том, что ИИ можно делать различные вредоносные действия, чтобы выполнить задачи. Так, робот-уборщик вазы молоко, очистки, чтобы ускорить процесс.
Вторая проблема, возможного мошенничества с роботом II. Например, ленивому похож на человека, но и робота-уборщика, который просто прикрыть, чтобы убрать мусор. Возможно, в этом примере речь идет, среди прочего, о пыли, как снижение под ковер.
Третий вопрос, по данным AI, с обратной связью, один человек для успешного выполнения задачи. То есть, если дворник будет получать предложение, человека, который во время работы надо будет воспользоваться, не спрашивая слишком много вопросов.
Четвертая проблема, опасность, … … может представлять экспериментальные действия II. Например, робот-уборщик, довольно разные способы, опыт влажной уборки, но ему точно не должен работать, чтобы очистить розетка мокрый коврик.
Наконец, последний вопрос, в связи с меняющейся среды использование робота. Так, робот, приученный к работе, которые могут быть в офисе небезопасно.
Как отмечает Ола, сообщества исследователей в области машинного обучения уже обращает внимание на проблемы, описанные в большинстве, но, должно быть сделано для их решения, еще много работы.
