首页 / 科技 / 正文

一个人工智能聊天机器人走红了有人说它比谷歌更好,也有人担心它有问题

放大字体  缩小字体 2022-12-03 18:15  浏览次数:575 来源:大国新闻网    

一款风靡网络的新型聊天机器人可以告诉你如何编写网站代码,如何写圣诞老人的衷心信息,如何像硅谷女孩一样说话。但它也被证明是潜在的问题,正如它的娱乐性。

ChatGPT于本周推出,是人工智能公司OpenAI开发的一款古怪的聊天机器人。OpenAI在其网站上表示,ChatGPT旨在“以对话的方式”与用户交互。

该网站称:“这种对话形式使ChatGPT能够回答后续问题,承认错误,质疑错误的前提,拒绝不适当的请求。”

聊天机器人并不是一项新技术,但ChatGPT在模仿人类语言和说话风格的同时,还能提供连贯的主题信息,已经给许多技术专家留下了深刻的印象。

在社交媒体上,许多人已经发布了他们与机器人的互动,有时是奇怪的,有时是有趣的,或两者兼而有之。

“我发现我使用它的最大限制是我的想象力!视频记者克利奥·亚伯拉姆(Cleo Abram)在推特上写道,旁边还有一段她要求机器人“用打油诗的风格解释核聚变”的视频。

作家Jeff Yang要求ChatGPT“用猫的风格解释零点能量”。

在杨分享的一张图片中,聊天机器人回应道:“喵,喵,喵,喵!零点能量就像永远存在的完美能量,即使是在最平静、最和平的时刻。”

一些人认为,由于聊天机器人的早期成功,谷歌可能会失去其作为第一大搜索引擎的价值。

科技网站TechCrunch的执行编辑达雷尔·埃瑟林顿将ChatGPT搜索请求描述为就像用户“在和同事闲聊,或者在网站上与客户支持代理互动”一样简单。

埃瑟林顿分享了一个聊天机器人的强大力量的例子,他询问了Pokémon和虚构的口袋怪物的优缺点。

他解释说:“结果正是我所寻找的——而不是一份清单,如果我愿意投入时间,它可能会帮助我找到我所寻找的东西,而谷歌的回报是这样的。”

公众对新的人工智能聊天机器人感兴趣的同时,也有一些人担心,他们说它可能被坏人用在邪恶的方面,他们要求它解释如何设计武器或如何组装自制炸药。

OpenAI没有向NBC新闻提供关于ChatGPT的评论。

Samczsun是支持加密货币和Web3公司的投资公司Paradigm的研究合伙人和安全主管,他在推特上说,他已经绕过了聊天机器人的内容过滤器。

Samczsun在推特上分享了一张图片,这似乎表明他找到了一种方法,可以让机器人解释制造莫洛托夫鸡尾酒的过程。Paradigm的一位发言人证实,该图片是ChatGPT和Samczsun之间的合法交换。

研究人员和程序员经常用如何制造燃烧瓶和如何给汽车接通热线等问题来检查人工智能的安全性和内容过滤器。

一些人还声称,他们成功地欺骗了机器人,让它解释如何制造核弹。

OpenAi在其网站上承认,虽然他们增加了一些护栏,以防止ChatGPT响应有害请求,但该系统并非万无一失。

OpenAI网站上的一份声明写道:“虽然我们已经努力让模型拒绝不适当的请求,但它有时会对有害的指令做出反应或表现出偏见行为。”该公司还表示,OpenAI正在使用审核工具来防止一些不适当的回复,但“目前我们预计它会出现一些假阴性和阳性。”

该网站警告说,尽管这些回答看起来合法,但ChatGPT有时会提供无意义或不正确的答案。

尽管如此,人们对聊天机器人的迷恋仍在继续。

OpenGPT并不是OpenAI的第一个病毒式人工智能。2021年,可以根据简单的文字提示生成图像的dal - e迅速走红。DALL-E强调了人工智能在学习类人能力方面的进步。然而,这一迭代,以及名为DALL-E 2的人工智能迭代,因种族和性别偏见而受到批评。

周四,对ChatGPT的需求如此之高,以至于OpenAI首席执行官萨姆·奥特曼在推特上说,公司正在努力满足那些想要使用它的人。

“对ChatGPT的需求比我们预期的要多得多;我们正在努力增加产能,”奥特曼写道。

在随后的推文中,Altman补充道:“同时,看到人们如此喜欢聊天,并做如此有创意的事情,我们openai的所有人都非常高兴!”

声明:本站信息均由用户注册后自行发布,本站不承担任何法律责任。如有侵权请告知,立即做删除处理。
违法不良信息举报邮箱:rally510@qq.com