2018 先端技術と共創する新たな人間社会      
(Grant Number)
(Project Title)
The relationship between human and social agent from care ethics and the social implications
西條 玲奈
Reina Saijo
School of Letters, Osaka University
(Grant Amount)
企画書・概要 (Abstract of Project Proposal)

本企画では、AI やロボットでも人に情緒的なつながりを喚起させるソーシャルエージェントを対象に、人との可能な関係性とそのよりよいあり方を検討する。近年、性別や人種などの属性に対する人の社会的な認知バイアスが AI の判断に反映された問題や、ロボットの存在が人に攻撃的な発言や行動を引き起こしたという報告など、人とソーシャルエージェントの関係における価値判断に関して看過しがたい事態が生じている。こうした事態を反映してか、既存の議論は、依存のリスクや人間同士の関係を阻害する懸念など、危害防止の観点に立つものが主流だった。だが、ソーシャルエージェントと人の関係性の問題点を踏まえて、さらにその積極的な意義を問うこともできるだろう。そこで第一に、ケアの倫理の観点から人とエージェントのパーソナルな関係をとらえ直し、倫理的な問題点と同時に両者の相互作用に見出せる固有の価値があることを検討する。第二に、社会とエージェントの関係性の観点から、社会的属性が付与された場合に生じる問題やその意義を検討する。この二点のテーマを通じて、どのようにソーシャルエージェントを設計すべきか、その指針の提案を目指す。

This project aims to examine the possibilities of better relationships between people and a specific type of AI and robots, so-called a social agent which evokes emotional connections to human beings. In recent years, there have been some reports that some trained AI reflected in their outputs our implicit bias of social kinds such as gender and race; a social robot caused children's brutal remarks and actions to the agent. We are in a situation that cannot be overlooked and require considerations of moral judgment when developing the agents. Reflecting this situation, many of the existing discussions tend to stand from the perspective of preventing harm, such as the risk of addiction and the fear of alienation of people from human relationships. However, it will be possible to ask not only the pessimistic aspects of the relationship between social agents and people but also their positive significance. First of all, from the viewpoint of care ethics, we will rethink the personal relationship between humans and agents and consider that there is some intrinsic value that can be found in the interdependent actions. Secondly, from the viewpoint of the relationship between society and agents, we discuss the problems and their importance that occur when agents posses social features. Through these two themes, we attempt to propose guidelines on how to design social agents.

ホームページへのリンク ◆トヨタ財団WEBサイト内関連記事