从人为偏见到功能偏见

它包含一组经过法律审查、优先排序、分配拟议攻击手段并最终获得 ISAF 联合司令部指挥官批准的目标。虽然 JPEL 是为动能交战保留的（ISAF 为非动能交战保留了一份单独的名单，即联合优先塑造和影响名单或 JPSIL：参见Brady，第 17-18 页），但 Reprieve 将其标记为“杀戮名单”是错误的。JPEL 不仅限于致命目标确定，还涵盖所有动能效果，包括非致命效果，尤其是捕获。事实上，一些国际安全援助部队派遣国只将目标列入联合打击目标清单，用于非致命交战赏金猎人瞄准算法偏见

开放式创新

分享按钮
● 在美国，一群被称为“偏见海盗”的人工智能 (AI) 专家正在发起竞赛，以鼓励他 WhatsApp 号码数据 们的社区寻找 AI 工具中的偏见。
● 该组织的联合创始人之一 Subho Majumdar 告诉我们，为什么提高开发人员、决策者和公民对 AI 引发的道德问题的认识很重要。
● “偏见海盗”希望通过进一步的竞赛吸引国际关注，同时鼓励工程师和开发人员向更广阔的世界开放，提高他们设计的 AI 系统的完整性。
“叛徒”、“不合群的人”、“海盗” ……这些只是 Subho Majumdar 联合创立的这个杂牌团队 新冠肺炎就是一个很好的例子 用来描述自己的部分术语。白天，Majumdar 为西雅图的一家科技巨头管理人工智能项目，但到了晚上，他会组织非常不寻常的寻宝活动。他的团队喜欢使用冒险语言，称自己为“偏见海盗”。

他们的目标是组织竞赛或赏金活动

鼓励人工智能社区和普通民众寻找人工智能模型中的算法偏见，以确保这些创新继续朝着尊重数据隐私的道德未来发展。Subho Majumdar 指出：“机器学习和人工智能被视为黑匣子。不仅对开发人员而言，更广泛的公众也必须认真对待偏见问题”。首届偏见赏金竞赛于 2022 年 12 月举行，竞赛内容是建立一个机器学习模型来分析人脸图像并检测哪些图像存在偏见。该活动由微软、亚马逊和初创公司 Robust Intelligence 等公司赞助，奖金高达 6,000 美元。

人工智能模型可能已经吸收了数以千计的偏见，而这些模型目前正在以前所未有的速度建立。在实践中，回到人脸 WhatsApp 号码 检测的例子，某些人工智能被发现会将黑人的脸与动物的脸混淆。“人工智能所基于的大型语言模型始终依赖于上下文”，这就是为什么逐一检查每个人工智能的功能以识别它们可能包含的偏见非常重要的原因。“例如，在金融领域，需要确保算法尊重法律，以免歧视某些人群类别。”尽管它们是由人类设计的，但人并不总是人工智能偏见的根源：在性能偏见方面尤其如此，这可能会带来灾难性的后果。“以自动驾驶汽车的内置系统为例：它们必须在不同的天气条件下提供相同水平的性能”，这要求它们在不同的框架上接受公平的训练。