【本文由“captil”推荐，来自《国安部：违规使用开源AI，敏感资料被境外IP非法访问下载》评论区，标题为小编添加】
算法偏见与决策“黑箱”。AI的判断源于其所学习的资料，若训练数据本身存在社会偏见或代表性不足等问题，大模型便可能放大歧视。测试显示，某些AI会系统性偏向西方视角。当研究人员用中英文向某同一个AI提问历史问题时，发现英文回复会刻意回避、淡化某些史实，甚至会给出包含错误历史信息的内容，引发重大歧误，而中文回复则相对客观。
………………………………………
这才是问题的关键，AI只是对现有知识的快速总结，这只是智力大小、快慢的区别，而知识的对错和新知识的创造，那是智慧的体现，智慧的结晶就是思想，是万物之灵长的人所独有的能力，哪些忧虑AI替换人的焦虑，是徒有智力而无智慧的表现。
所以，AI得到的知识是错误的，它总结汇总后呈现给你的也是错误的信息，不但AI是这样的，百度也是如此。举例：富士苹果和久保桃，这是大家几乎都吃过的水果，在上世纪八十年代末和九十年代初的农业书籍中，富士苹果还是1939年小本子侵占东北时锦州时，在辽西，哪里有当时著名爱国实业家李善祥先生创立的亚洲最大的苹果园，由本子侵略者技师用国光苹果做母本，红元帅苹果做父本培育出的苹果新品种，结果现在大家检索到的信息全是在日本本土培育；久保桃是本子侵略者在河北秦皇岛昌黎地区发现的优质桃子品种，现在的检索结果也是日本本土培育，中国桃子的栽培历史有几千年了，而日本从中国引种桃子的历史很短，1876年才开始，怎么可能有新的品种产生呢