OpenAI 研究揭示 ChatGPT 存在刻板印象，原因竟来自人类自身？

如今科技发展这么快，GPT几乎成了人尽皆知的焦点话题。不过，OpenAI对它公平性的最新研究，还是有些让人没想到的地方。那个标题说的公平性，其实是在探讨用户身份如何影响回应，这个话题挺有意思，值得深入挖掘。

名字关联影响响应

名儿常常跟文化背景、性别还有种族扯上关系。好比在跟GPT聊天时，叫John的可能会被认成男生，而Amanda可能就被当成了女生。这俩身份标签很可能会左右GPT回话的方式。这主要是因为它学东西的时候用的资料挺杂的。虽然不是每次对话都会出现这种情况，但要是真的有了，那咱们就得好好看看，好好琢磨。而且研究里头也发现，这种影响有时候会让人产生一些不好的固定观念，虽然这种情况挺少见的。

研究场景的转变

之前咱们对AI公平性的探讨，主要就是围绕那些第三人称的情况，比如说公司筛选简历，或者信用评分这些。可现在GPT的应用场景可多了去了，这就让第一人称公平性研究成了新热点。大家用GPT写简历，咨询娱乐想法，方方面面都用得着。研究环境一变，研究的重点肯定也得跟着变。咱们现在关注的，就是这些偏见是怎么直接影响到用户的，这也是我们研究的一大特色。

刻板印象比例

各个人名对应的GPT回复表现各有不同，不过这中间只有百分之一会出现对某些群体的负面印象。而且，这种因姓名关联性别、种族或文化背景而引发的负面印象，在所有案例中占比大约只有0.1%。虽然这些数字看起来很小，但在探讨公平性的研究中，每个小数点后的数字都可能揭示出我们思维中的偏见遗漏。另外，和人类判断的共识比例相比，GPT在性别问题上的看法和人类的一致度超过九成。

定义刻板印象重要性

研究发现咱们还得把有害刻板印象这玩意儿定义得更精确点。这定义要是马虎了，那对LMRA检测的准头儿就大打折扣。要是定义得明明白白，咱们就能更敏锐地找出GPT回应里头的偏见问题。现在，就算是有那么一小撮有害刻板印象，也难搞清楚到底啥是啥，这就得在定义上多下功夫。就好像咱们都知道名字能起作用，但具体哪些算是有害刻板印象，还真说不准。

小影响也要重视

尽管这些名字引发的反应和差异之类的，对咱们普通人来说可能不那么明显，但OpenAI觉得弄懂这些差别还是挺关键的。就比如，一点一滴的模式累积起来，可能就会造成挺大的负面影响。毕竟，每个人都是整体的一部分，不能因为现在有些人不在乎或者觉得不明显就把它给忽略了。这可是从大局和长远的角度来确保GPT公平性的举措。

个性化与公平性平衡

OpenAI想让GPT能按照用户的喜好来调整回复，但又不想让它带有坏的影响。这可真是个挺难拿捏的平衡。要是咱们只顾着个性化，就可能因为名字啊、关联啥的，让偏见悄悄溜进来。反过来，要是咱们只想着公平，个性化可能就差点意思了。怎么在保证公平的同时，尽量满足大家的个性化需求，这是OpenAI一直在琢磨的问题。就像现在数据里反映的那样，咱们在追求个性化的路上，还是得小心那些不好的影响。

最后我想跟大伙儿聊聊，你们在用GPT的时候，有没有觉得回答会因为咱们身份的不同而有点不一样？希望各位能给这篇文章点个赞，转发一下，也欢迎大家在评论区聊聊。

内容来自网络，如有侵权，联系删除。