刘继群博士是OU图书馆与信息皇冠体育研究学院助理教授和心理学系附属助理教授,他是交互式信息系统的先驱,在生成式人工智能时代改变了人们搜索、访问和参与信息的方式。
刘继群博士的皇冠体育研究将机器学习(ML)、人机交互(HAI)和信息检索(IR)相结合,以促进公正的信息获取,提高人们的信息福祉。他的团队旨在了解人们的认知限制、偏见和知识差距,这些可能会阻碍他们与文本和会话信息系统的互动,并寻求建立和评估新的人工智能辅助系统,这些系统可以更好地理解用户的意图、需求和遇到的挑战,并主动减轻他们的偏见,解决误导性内容、模型幻觉和虚假信息的负面影响。刘博士的皇冠体育研究为人工智能驱动的搜索和推荐系统的设计提供了信息,加强了人工智能伦理和政策,并增强了医疗保健、学习和教育以及数字媒体等关键领域的可靠信息获取。通过整合认知科学、机器学习和以人为本的设计,他正在塑造下一代人工智能系统,这些系统可以适应用户,反击错误信息,并为大规模负责任的人工智能设定新标准。
刘博士的工作得到了DISC种子基金项目的支持,该项目推动了识别用户偏见,基于公平指标评估搜索系统以及通过公平和有用的学习排名(L2R)算法减轻偏见的界限。他的皇冠体育研究成果已在ACM顶级会议上发表,获得了最佳论文奖,并在b施普林格Nature发表的题为“交互式信息检索的行为经济学方法:理解和支持有限理性用户”的皇冠体育研究专著中提出。刘博士最近在信息检索中的认知去偏见和促进公平的人类与人工智能交互方面的工作也得到了美国国家科学基金会(NSF)和微软的资助。
深远的好处:
·更智能的搜索和推荐——使人工智能驱动的商业搜索引擎和推荐系统更加相关、公平和用户感知。
·更安全的人工智能对话——减少聊天机器人和对话系统中的错误信息和偏见,确保更值得信赖的人工智能交互。
·在关键领域做出更好的决策——帮助人工智能在医疗、金融和法律领域提供更可靠、更公正的支持。
·更强的人工智能道德和政策——为更公平、对社会负责的人工智能制定行业标准和政策。
·增强数字复原力——使用户能够识别偏见和误导性内容,并更有效地浏览在线信息和知识。
有关刊物一览表:
1. 刘杰(2023)。交互式信息检索的行为经济学方法:理解和支持有界理性用户。瑞士Cham:施普林格自然。https://link.springer.com/book/10.1007/978-3-031-23229-9
期刊文章:
1. 陈,N。刘,J。,H。,罗,Y。,酒井法子,t &吴x(2024)。搜索交互中的诱饵效应:了解用户行为和衡量系统脆弱性。ACM信息系统汇刊(TOIS)。https://dl.acm.org/doi/pdf/10.1145/3708884
2. 王斌,刘杰。(2023)。调查现场用户期望在网络搜索中的作用。信息处理与管理,60(3):103300。(IP&M)
3. 刘杰(2022)。交互式信息检索评估中克兰菲尔德启发的可重用性评估。信息处理与管理,59(5),103007。(IP&M)
会议论文:
1. 刘军,何军(2024)。有限理性搜索者与医学错误信息的交互作用:表征会话中可信度和有用性评估的情境依赖诱饵效应。ACM SIGIR人类信息交互与检索会议论文集。纽约:ACM (CHIIR)。
2. 陈宁,刘军,董晓青,刘庆,Sakai, T. &吴晓明。(2024)。人工智能可能存在认知偏差:基于llm的批量相关性评估中阈值启动的探索性皇冠体育研究。第二届美国计算机学会亚太信息检索国际会议论文集(SIGIR- ap)。
3. 王斌,刘杰(2024)。认知上有偏见的用户与算法上有偏见的结果交互,在整个会话中搜索有争议的话题。美国计算机学会信息检索理论会议论文集。(ICTIR)
4. 陈宁,刘杰,和酒井涛(2023)。Web搜索评估的参考依赖模型:理解和度量有限理性用户的体验。2023年ACM网络会议论文集。(页3396 - 3405)。纽约:ACM。(WWW)
5. 刘杰(2023)。在搜索和推荐中建立双边公平框架。ACM SIGIR人类信息交互与检索会议论文集。(pp.236 - 246)。德克萨斯州奥斯汀(CHIIR)
6. 刘杰、沙C.(2022)。利用用户交互信号和任务状态信息自适应地优化面向有用性的搜索会话。ACM/IEEE数字图书馆联合会议论文集(第1-11页)。德国科隆。(JCDL)