人工智能偏见如何影响从招聘到医疗保健的一切

通过

日期

诺曼,俄克拉荷马州。- ChatGPT、DeepSeek、b谷歌的Gemini和微软的Copilot等生成式人工智能工具正在迅速改变行业。然而，随着这些大型语言模型变得越来越便宜，越来越广泛地用于关键决策，它们内置的偏见可能会扭曲结果，侵蚀公众的信任。

皇冠体育普莱斯商学院（University of Oklahoma 's Price College of Business）副教授纳文·库马尔（Naveen Kumar）与人合著了一项皇冠体育研究，强调迫切需要通过开发和部署合乎道德、可解释的人工智能来解决偏见问题。这包括确保公平和透明的方法和政策，减少法学硕士申请中的刻板印象和歧视。

库马尔说：“随着像深seek和阿里巴巴这样的国际公司发布免费或便宜得多的平台，全球人工智能价格竞赛将会展开。”“当价格成为优先事项时，人们还会关注道德问题和有关偏见的监管吗？”或者，既然现在有跨国公司参与其中，是否会推动更快的监管？我们希望是后者，但我们必须拭目以待。”

根据他们在皇冠体育研究中引用的皇冠体育研究，近三分之一的受访者认为，由于有偏见的人工智能算法，他们失去了皇冠体育，比如财务或工作前景。库马尔指出，人工智能系统专注于消除显性偏见，但隐性偏见仍然存在。随着这些法学硕士变得越来越聪明，检测隐性偏见将更具挑战性。这就是道德政策如此重要的原因。

“随着这些法学硕士在社会中发挥更大的作用，特别是在金融、营销、人际关系甚至医疗保健领域，它们必须与人类的偏好保持一致。否则，它们可能导致有偏见的结果和不公平的决定，”他说。“医疗保健中的偏见模式可能导致患者护理的不公平；有偏见的招聘算法可能偏袒某一性别或种族；或者有偏见的广告模式可能会延续刻板印象。”

在建立可解释的人工智能和道德政策的同时，库马尔和他的合作者呼吁学者们开发积极的技术和组织解决方案，以监测和减轻法学硕士偏见。他们还建议，应该采用一种平衡的方法来确保人工智能应用保持高效、公平和透明。

“这个行业发展非常迅速，所以不同目标的利益相关者之间会有很多紧张关系。我们必须平衡每个参与者——开发商、业务主管、伦理学家和监管者——的关切，以适当地解决这些法学硕士模型中的偏见，”他说。“在不同的业务领域和不同的地区法规中找到最佳点将是成功的关键。”