黄素珍
当代由算法驱动的人工智能技术在社会治理、公共生活和私人生活领域的大规模应用极大地扩展了人的控物能力,也极大地提高了公共治理的效率,提升了人们在物质层面的生活福祉,并重塑着人们对公共生活的感知模式、认知框架和行为态度。但因其技术特性,从算法技术造成的安全风险和伦理风险等各种算法风险表现形式来看,智能算法系统已经溢出了其狭义的机械功能和工具主义特性,越来越演变成一种通过智能技术影响乃至渗透到社会治理组织、公共生活和私人生活领域的建构性、弥漫性权力形态,即“算法权力”。这种新型权力建立在自动化算法决策系统的技术基础之上,并与其他类型的权力机制结合在一起,深刻地嵌入社会结构之中,对社会治理、公共交往和个体精神生活秩序产生了深远的影响。在算法权力诸多表现形态的形成过程中,算法决策系统在人机交互界面的嵌入式广泛使用,给传统应用伦理学的致思方式和应对之道带来全新的挑战,产生了尤其迫切需要伦理反思和规制的难题。针对算法权力的算法决策伦理由此就承载着两个重要任务:在概念上界定算法权力,反思算法决策权的伦理性和公共性,明确算法权力的特征;制定和辩护治理算法权力的伦理框架,确定算法决策系统应用的道德边界,并通过伦理规制和范导为算法治理提供道德动力。