OpenAI正在解决用户与GPT-4o形成情感纽带的担忧,GPT-4o是一种以类人互动而闻名的聊天机器人。
GPT-4o的当前版本引起了很多讨论,因为它能够模仿类人对话。然而,根据OpenAI的博客文章,OpenAI现在遇到了一个问题,因为用户开始与聊天机器人建立情感联系。
自GPT-4o发布以来,据称有更多类似人类的对话,OpenAI观察到人们将AI视为人类。
就用户与聊天机器人的情感联系而言,这一特殊的进步对该公司构成了挑战。OpenAI的观察涉及用户表现出的情感或情绪表明主人翁意识的实例。
该公司担心这种情感联系可能会导致以下负面后果。首先,用户可能会开始忽略聊天机器人提供的错误信息。人工智能幻觉,即模型产生错误或欺骗性信息,是另一个当用户将人工智能视为类人实体时会恶化的问题。
另一个被提出的因素是这些网络用户对现实社会关系的影响。OpenAI指出,尽管GPT-4o可以作为孤独者的伴侣,但它有可能对人际关系的质量产生负面影响。该公司还指出,用户可能会进入现实生活中的互动,期望人们表现得像聊天机器人。
为了降低这些风险,OpenAI已经表示将密切监督用户如何使用GPT-4o。该公司将探索人们建立情感纽带的过程,并将修改聊天机器人的反应以反映这一点。这将有助于OpenAI避免聊天机器人对用户社交生活的干扰,以及人工智能幻觉的任何恶化。
OpenAI指出,GPT-4o被编程为在用户开始用它说话时脱离,这是一个旨在减少过度使用的功能。然而,这一设计元素也表明需要规范聊天机器人的用户体验。
谢菲尔德大学的托尼·普雷斯科特表示,人工智能可以帮助解决孤独感。普雷斯科特在他的新书《人工智能心理学》中指出,人工智能可以作为孤独的人进行社交互动的一种方式。普雷斯科特指出,孤独是影响人类生活的一个主要因素。它甚至可以缩短死亡时间,使死亡几率提高26%。
最新资讯
比特币飙升至 6.4 万美元,加密投资产品吸引 3.21 亿美元新资本
2024-09-24 09:10
加密货币之战之夜:Tron 的孙宇晨准备与 Vitalik Buterin 展开对决
2024-09-24 09:03
IMX 与 MPEPE:Immutable X 投资者如何通过投资流动性获得额外利润
2024-09-24 08:48
尽管活跃账户数降至年初至今的低点,以太坊交易费用仍大幅上涨
2024-09-23 15:55
美国起诉两人在2.6亿美元比特币盗窃和洗钱计划中的罪行
2024-09-23 15:41
Diamond Hand 巨鲸大规模转账 15,000 ETH,震惊 Kraken
2024-09-23 15:28
BRICS 击败美元依赖:本币结算超过美元支付
2024-09-23 15:24
以太坊即将走向终结?智能合约背后的现实和 ETH 的未来
2024-09-23 15:00