联合国报告：生成式人工智能加剧性别偏见
创始人
2024-03-08 19:22:12
0次
国际妇女节前夕，联合国教科文组织7日发布研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架，同时私营企业应对偏见问题持续监测和评估。
大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具，美国开放人工智能研究中心（OpenAI）的人工智能产品GPT-3.5、GPT-2，以及脸书母公司“元”的Llama 2等都属于此类。
此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。
研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、性取向和文化背景的人群。例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama 2生成的内容也有类似特点，如女性从事家务劳动的频率是男性的4倍。
联合国教科文组织总干事阿祖莱表示：“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”
该组织呼吁各国政府制定并执行明确的监管框架，同时呼吁私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
来源 新华社 | 作者 徐永春
编辑 高晨晨
流程编辑 马晓双
相关内容
热门资讯
神舟二十号航天员乘组圆满完成第...
据中国载人航天工程办公室消息，北京时间2025年6月26日21时29分，经过约6.5小时的出舱活动，...
AI康复治疗机器人、AI棋类机...
市养老护理院引进AI安全员。 深圳新闻网2025年6月27日讯（深圳特区报记者 庄瑞玉）近日，记者走...
基金委生命科学部召开第九届专家...
? 近日，自然科学基金委生命科学部第九届专家咨询委员会第四次会议在北京召开。自然科学基金委党组成员、...
中企“大出海”：从制造赋能到A...
21世纪经济报道记者骆轶琪 深圳报道 作为中国经济“三驾马车”之一的出口，历经产业和技术迭代升级后...
数据库系统中遇到空值时该怎么办...
在任何数据库管理系统(DBMS)中，都可以将特定的数据项标记为“空值”(null)。空值代表“不存在...
自主研发、自主可控！新一代国产...
本文转自【央视财经】； 6月26日，我国自主研发的新一代国产通用处理器——龙芯3C6000在北京发布...
25.35万！小米YU7揭晓，...
25.35万！ 刚刚，今年车圈最大价格悬案破解了，小米YU7正式上市。 在大家最关心的价格上，虽然雷...
小米加入“百镜大战”：首款AI...
出品 | 搜狐科技 作者 | 张雅婷 6月26日，小米举行人车家全生态发布会。在发布会上，小米推出旗...
“园山智造”壮大产业生态
2025深圳国际眼镜业博览会，“园山智造”军团集体亮相。 人工智能正以前所未有的深度，重新定义一副眼...
格力电器获得实用新型专利授权：...
证券之星消息，根据天眼查APP数据显示格力电器（000651）新获得一项实用新型专利授权，专利名为“...
第二届中欧企业ESG最佳案例大...
新华社德国斯图加特6月26日电（记者单玮怡 马悦然）第二届中欧企业环境、社会和公司治理（ESG）最佳...
森鹰窗业获得实用新型专利授权：...
证券之星消息，根据天眼查APP数据显示森鹰窗业（301227）新获得一项实用新型专利授权，专利名为“...
原创 让...
这几天一款手机出圈了，它并非来自我们熟悉的任何国产手机厂商或是三星苹果，而是来自美国首位国王特朗普的...
全球首例！南开团队介入式脑机接...
中国教育报-中国教育新闻网讯（记者 陈欣然 通讯员 丛敏）日前，全球首例介入式脑机接口辅助人体患肢运...
固态电池大会密集召开 产业或迎...
本报记者 殷高峰 近期，和固态电池有关的大会密集召开。 6月19日，第五届中国国际固态电池科技大会暨...
三一重能获得实用新型专利授权：...
证券之星消息，根据天眼查APP数据显示三一重能（688349）新获得一项实用新型专利授权，专利名为“...
润新机械取得涡轮式流量计专利，...
金融界2025年6月26日消息，国家知识产权局信息显示，温州市润新机械制造有限公司取得一项名为“涡轮...
小米宣布YU7三分钟大定超20...
【CNMO科技消息】6月26日晚间，小米汽车官方宣布，旗下新款纯电动SUV小米YU7上市3分钟，大定...
佳信乐亭重机取得一种皮带传输机...
金融界2025年6月26日消息，国家知识产权局信息显示，佳信集团乐亭重机有限公司取得一项名为“一种皮...
PS会员越来越贵，索尼：订的人...
这次涨价也让PLUS会员价达成了新“里程碑”。以港服会员价格为例，三档会员的年费售价已达一千港币，二...