通过人工智能游戏理论理解社会道德

道德行为的重要性早已为人所知,它继续不仅是全社会的一个紧迫问题,而且也是全社会的一个紧迫问题企业并应用人工智能职业道德问题AI本身没有服务于澄清道德或缺德对全社会产生的后果

古代哲学家思考道德行为的作用并斥责行为不道德者,也许错误地认为行为不产生严重后果。孔子说, '小人认为小善无益 也无益微小的罪恶行为,必不害人,必不戒恶。

泛职业道德从多到少美德道德或行为必须适应先存美德概念词理学道德或行为与职责和角色相容的理念并consequentialism或行为道德化或单纯因后果

内最近的工作上展示IJCAI2020Aditya Hegde和VibhavAgarwal会议IT班加罗尔, working under my supervision, set out to formulate an agent-based model of a society where ethical as well as unethical conduct are possible.  While it is of interest to make models and AI systems more ethical, our purpose here was to model ethical and unethical behaviours in society, to understand the consequences of each.  To model agent interactions we used a paradigm called a continuous prisoner's dilemma (a variant on the prisoner's dilemma, a classic staple of game theory).  We also defined a new agent type which we call a virtue agent, making it possible for agents to embody ethical and unethical actions (donations and theft respectively), with consequences to their individual resources and reputations, as well as for the overall wealth of society.  As in our everyday human experience, the model too has the feature that common interactions of agents do not significantly alter their reputations (or become widely known), but large ethical or unethical actions do.

仿真系统模型本质上是一个内部模型处理系统假设某些参数的后果,与物理环境测试系统形成对比。基于代理模型和模拟使用这些模型在社会科学中特别有用,因为在社会科学中根本无法安排我们喜欢的场景。我们的模型使我们有可能搭建基本无法在现实中排列的场景,并通过模拟理解其后果。

伦理问题中始终很重要的一个问题是:为什么有些人选择不道德?许多原因可能存在,但一个重要的原因当然是期望比道德手段大得更多。 至此,经典回文通常是,不道德行为可能带来暂时增益,但他们留下长期沉浸于这些方面的人。 Mahabharata名言. "人因罪得兴 取善 征服敌人毁灭令他重归根部乔治华盛顿拒绝不道德行为并说得总是大大超值永久邪恶 任何局部或瞬时利益

模拟显示过去思想家的洞察力实属正确不道德代理商短期增益但归根结底下沉从长远看,只有道德代理才兴旺

相关的另一个结果是,即使是一小部分高道德主体也相当显著地提高社会繁荣度,即使社会绝大多数不道德-这种道德主体对整体社会福利有不成比例的巨大影响

社会道德方面的另一个问题在于奖赏良好行为或惩罚不良行为是否更重要。 心理学多项历史研究显示,人们的道德动机更多是奖赏而非惩罚,但依据学说而论报复性公正现代执法基础的不道德行为受惩罚是常见的,而道德行为可能很少引起注意。

也在这里,我们的工作表示负向偏差或更多关注惩罚不道德行为而非奖赏道德行为,不鼓励不道德行为主体变得更道德反之,a阳性偏向更强调奖赏道德行为而不是惩罚不道德行为