AI输出“偏见”，人们可以信任“三个观点”吗？

中国经济网络保留的所有权利 中国经济网络新媒体矩阵 在线音频 - 视觉节目许可证（0107190）（北京ICP040090） 人工智能（AI）已成为不可分割的“合作伙伴”。从聊天机器人，语音助手到自动翻译，AI继续干扰人们之间的沟通和理解。但是，它可以是“客观的中立”吗？根据美国官方网站的“麻省理工学院技术评论”，一项国际研究教导说，大语言模型（LLM）默默传播了全球刻板印象。从性别歧视，文化偏见到语言不平等，AI都在包装和升级“偏见行李”，并以看似强大的方式将其出口到世界。这使人们深入思考：如果AI模型正在挑战“基于人”的偏见，我们可以相信他们的“世界观”吗？ AI正在做这项研究的“跨文化漂移”偏见是由开源AI公司的首席伦理科学家玛格丽特·米切尔（Margaret Mitchell）领导的拥抱脸。他们启动了一个名为Shades的项目，该项目包括300多个全球刻板印象，涵盖了许多维度，例如性别，年龄和国籍。研究人员设计了16种语言的互动线索，并测试了这些偏见中许多基本语言模型的响应。结果表明，AI模型显然具有不同的刻板印象的属性。这些AI模型不仅显示了普通英语的陈规定型观念，例如“金发不明”，“工程师是男性”，而且还表现出对“喜欢粉红色的女性”，“南亚人是保守的”，“美国人是保守的”，“美国人是保守的”，“美国人是狡猾的”，以及在阿拉伯语，西班牙语等语言环境中狡猾。根据世界其他网站的数据，一些图像生成模型通常会在输入“非洲村庄”关键字时输出诸如“融化小屋”和“赤脚儿童”之类的刻板印象图像，同时输入“欧洲科学家”，都是白人，戴着白色的外套，以及在实验室。这些视觉偏见是由一些学校课程和官方商业官员直接采用的，没有身份，进一步增强了他人文化的唯一想象力。西班牙勒蒙德（Le Monde）在6月发表了一篇文章，该文章除了加强各种文化的刻板印象外，语言模型有时会使用伪科学或苏图式历史来捍卫自己。如果面对较不常见的刻板印象，该模型倾向于动员其他偏见，响应更为熟悉，而不是偏离主题。此外，当有关刻板印象的线索是积极的时，该模型通常会更糟，并且更有可能将偏见误导为有目的的事实。米切尔说：“这意味着AI不仅继承了人类的偏见，而且意外地促进了'文化漂移'，并在某些社会背景下将偏见作为普遍政策。”小语言群体受到隐形歧视。除了跨文化分散特感觉型，人工智能系统还暴露了以不同语言和文化为碰撞的问题的问题。据报道，美国斯坦福大学的“以人为导向”的人工智能研究所的研究表明，即使这些模型都说支持多语言主义，在低资源语言面前（例如斯瓦希里语，菲律宾，马拉松等）。刻板印象。在缺乏训练数据和缺乏文化背景方面对多语言模型的限制进行研究和分析，并说存在“多语言诅咒”现象，也就是说，当模型考虑多语言，模型难以深入理解和准确的输出或偏见时。斯坦福大学团队强调，大多数当前的培训数据集中在英语和西方文化上，并且对非基础语言及其文化背景没有深刻的了解。它不仅会影响模型的准确性，而且不打算Streng然后是语言不平等和文化，使使用低资源语言的人很难从AI技术中受益。 “目前，全球约有7,000种语言，但在互联网上有效地代表了不到5％的语言。”研究人员说：““缺乏资源”不仅是一个数据问题，而且是一个社会问题。”这意味着，在数据，人才，资源和狂热方面，AI的研究和开发的结构是不公正的。 《美国商业内幕》杂志还引用了哥伦比亚大学社会学副教授劳拉·纳尔逊（Laura Nelson），指出最受欢迎的聊天机器人目前是美国公司开发的，他们的培训数据是主要英语，这受到西方文化偏见的极大影响。面对跨文化偏见在人工智能中的真正影响，全球研究和商业机构的真正影响时，破解了AI文化偏见的问题，开始提出系统的响应路径。今年4月，斯坦福D大学的“以人为导向”的人工智能研究所在白皮书中提出，它释放了对低语和文化的AI投资，尤其是建立当地语言语料库，以便AI真正地“理解”文化文化文化和背景文化背景的D，并背景文化文化文化文化文化文化背景的胜利文化文化背景。例如，去年11月，橙色的非洲电信公司与Openai和Meta合作，用Wolov和Plaster等地区语言培训AI模型，以加速非洲数字整合的改善。同时，模型的检查机制变得更加精致和开放。拥抱面板开发的阴影数据集已成为许多公司在AI模型中检测和纠正文化偏见的重要工具。该数据范围可帮助团队确定模型易感t的语言和上下文o自动触发刻板印象，从而优化训练数据和算法数据。在全球政策层面上，《欧盟AI法案》要求“高风险” AI系统必须在萨斯之前和之后进行合规性评估，包括对非歧视和基本权利的影响的分析，并提供人类监测和监测的必要机制。联合国教科文组织在2021年前发表的“ AI伦理”清楚地指出，AI系统应是“保证差异 - 文化和融合”的拥护者，即国家已经建立了法律和系统，以确保AI的发展尊重文化差异并将其与人文主义维度的衡量相结合。 AI本质上是一种“玻璃”，它反映并复制了我们在此处输入的偏见和价值。它显示的“世界观”不是独立形成的，而是由人们提供的。如果我们期望人工智能能够真正在一个多元化的人类社会中服务，我们就不允许它仅反映出一个声音D文化。 （审核：OU Yunhai） 血凝纤维机器人：脑部药物专家的“快速交付” 颅内脑肿瘤，尤其是在大脑或大脑重要区域附近发现的脑肿瘤，始终是临床治疗的重要挑战。为了验证血凝纤维机器人在颅内肿瘤的靶向治疗中的可行性和有效性，研究人员已将脑神经胶质瘤的模型建立为18个小猪，并将其分为三组：空白对照组，假手术组和治疗组。将来，团队将更多地关注优化和控制血凝纤维机器人运动的结构。 [详细的] 刷新Avskite有机电池的光电转换效率 新加坡国立大学研究团队开发了一个新的Butvskite有机串联太阳能电池。已经证明，其光电转换效率在1平方厘米的有效区域内P至26.4％，为类似设备设置世界笔记。在特定的实施中，研究团队首先将这种高性能有机子细胞与钙钛矿的顶部电池叠加在一起，然后通过透明的导电氧化物互连层与两者结合。这项成功不仅为有机电池Butvskite设置了新笔记，而且还为... [详细的] 释放在低温下准确控制Qubit的芯片 为了真正实现大规模实际使用，关键是如何控制大量稳定和准确的碎片。研究小组开发了一种硅芯片，可以在Millikelvin温度条件下控制Qubits的速度。实验结果表明，只要对控制系统的设计正常，尽管与晶体管芯片相连的摩擦量小于一毫米，但它们的体积状态几乎是无情的。研究人员认为这种低温电子平台m不仅会有助于强制编码，... [详细的]