印刷产品分类:
您当前所在位置:官网首页 > 公司新闻 >

深度造假“AI写手”火了!大学生用GPT-3写“鸡汤文”,骗过一堆人登上科技头条

GPT-3是OpenAI最新、最大的言语人工智能模型,由1750亿个参数组成。总部坐落旧金山的OpenAI研讨试验室本年5月开端逐渐推出了该模型,并引起越来越大的反应。这个巨大的言语模型简直能够担任一切能够用文字表达的作业:从答复问题、写文章、写诗篇、乃至写代码……无一不包。那么,实际中它终究有多凶猛呢?

最近,国外一名刚入门GPT-3不久的伯克利大学生利亚姆·波尔(Liam Porr),以一个化名,然后用人工智能模型建了一个完全假的博客。不过,这却成功“骗倒”了一大批内容阅读者。

595

这个充溢讽刺性和欺骗性的“AI花招”很快骗过了Hacker News等科技极客圈子,然后本相曝光——瞬间成为了热点论题——这么多人怎样就被一个完全由AI建立起来的所谓“博客”给诓了?竟然还有不少人“订阅”了上面的音讯?

虽然许多人猜想到现在为止最强壮的言语生成AI东西——GPT-3会怎么影响内容出产,但这种“以假乱真”的程度和效果是他们始料未及的。这是现在仅有一次GPT-3如此真实地展现自己的实力,足以阐明这一东西的运用潜力。

在加州大学伯克利分校(University of California, Berkeley)学习计算机科学的波尔说,这次阅历中最杰出的一点是:“实际上,它超级简略,这是最可怕的部分。”

登上头条狂涨粉的“AI鸡汤文”

虽然GPT-3还没有完全敞开,但波尔却仍然轻轻松松获取了接口。波尔提交了一份请求。他填写了一张表格,里边有一份关于他方案运用的简略问卷。但他也没有等上多少时刻。在联系了伯克利的人工智能社区的几名成员后,他很快找到了一名现已有此权限的博士生。

这个博士生赞同协作后,波尔很快就写了一个小脚本让他运转。它给了GPT-3一个博客文章的标题和介绍,并给出了几个完好的版别。Porr的第一个帖子(在Hacker News上发布的那个)和之后的每一个帖子都是从一个输出中复制粘贴过来的,简直没有修改。

他说:“从我想到这个主意并与那个博士生取得联系,到我真实创建了这个博客——这大约只花了几个小时。”

波尔用化名字“adolos”写的第一篇假博客,竟然顺顺利利就登上了YC新闻渠道Hacker News抢手榜第一名!波尔说,他运用了三个独立的账号在Hacker News上提交并投票,企图把他的帖子推得更高。管理员说这个战略不起效果,但他的点击率标题起效果了。

不需求太多修改就能生成内容的窍门是——了解GPT-3的优缺点。波尔说:“它很拿手发明美丽的言语,但不太拿手逻辑和理性。”因而,他挑选了一个不需求严厉逻辑的盛行博客类别——“鸡汤文”,这样就能完成高效和自助式的产出。

然后,他依照一个简略的公式来写他的标题:他在Medium和Hacker News上翻来翻去,看看在这些类别中发生了什么,然后把一些相对类似的东西放在一同。《感觉出产力不高?或许你应该中止思虑过多》“”(Feeling unproductive? Maybe you should stop overthinking)他为其间一篇文章写道。《斗胆和发明力胜过才智》(Boldness and creativity trumps intelligence),他又在另一篇文章中写道。有几回,这些标题并没有起到效果。但只需他坚持正确的论题,这个进程就很简单完成,“鸡汤文”成功地帮着博客蹭蹭蹭狂涨粉。

两周后,他简直每天都发帖子。随后不久,Hacker News上就有人责备波尔的博客文章是GPT-3写的。另一名用户却回应说,这条谈论“不行承受”。乃至有读者读后留言称,“好文!和Ethan Hawke在Ted的讲演相同深入!”对波尔的假博客持置疑态度的少数人,竟然就这样被社区的其他成员投了对立票,妥妥证明了并非“群众的眼睛都是雪亮的”。

一大部分人愣是没看出来文章不是人类写的,Medium、YC的新闻渠道等多家渠道都转载刊发了他的第一篇博客、他的博客竟然还疯狂涨粉人气居高不下……这让小哥波尔开端感到不淡定了,不过他自己也感到十分惊奇。

波尔说,他想证明GPT-3能够假充人类作家。事实上,虽然该算法的书写形式有些古怪,偶然也会呈现过错,但在他在Hacker News上宣告的最重要的帖子上,只要三四个人置疑该算法或许是由某个算法发生的。而且,一切这些谈论都当即被其他社区成员否决。

最终,波尔以一条自己写的奥秘信息完毕了这个项目。标题为《假如我没有品德,我将怎么对待GPT-3》,文章将他的进程描绘为一个假定。同一天,他还在自己真实的博客上宣告了一篇更直白的自白,弄清曝光了“假博客”的一向。

AI言语东西引发忧虑与考虑

依据OpenAI的算力计算单位petaflops/s-days,练习AlphaGoZero需求1800-2000pfs-day,而OpenAI的GPT-3用了3640pfs-day,看来具有微软无限算力的OpenAI,现在真的是随心所欲了。

关于专家来说,这一向是这种言语生成算法引起的忧虑。自从OpenAI初次发布GPT-2以来,人们就猜想它很简单被乱用。而GPT-3现已成为OpenAI迄今为止推出最新、最大的AI言语模型。在自己的博客文章中,该试验室要点重视了人工智能东西作为很多制作过错信息的兵器的潜力。其他人则想知道是否能够用它来很多发布谷歌游戏相关关键词的废物帖子。

上一年2月,OpenAI的GPT-2(该算法的前期版别)登上了新闻头条,OpenAI宣告将保存该版别,以防被乱用。这一决议当即引发了激烈反应,研讨人员责备该试验室在“搞噱头”。到了11月,该试验室总算改变了态度,发布了这个模型,其时还言之凿凿地称“到现在为止没有发现乱用的有力依据”。这不,这回“翻车”翻得有点凶猛了。

该试验室对GPT-3采取了不同的办法;它既没有回绝,也没有答应大众拜访。取而代之的是,它将算法提供给了那些请求私有测验的研讨人员,意图是搜集他们的反应,并在本年年底将这项技能商业化。

波尔说,他的试验还展现了一个更普通但仍然令人不安的挑选——人们能够运用该东西生成很多的点击诱导内容。他说:“很有或许会呈现很多平凡无质量的博客内容,由于现在进入的门槛太低了。”“我以为在线内容的价值将大大下降。”

波尔方案用GPT-3做更多的试验。但他仍在等候OpenAI的介入。他说:“他们或许对我的所作所为感到不满。”“我是说,这有点傻。”

背面的“AI大法”OpenAI

在建立的短短四年时刻里,OpenAI现已成为全球抢先的人工智能研讨试验室之一。与Alphabet旗下的DeepMind等其他人工智能巨子相同,谷歌不断推出引人注意图研讨成果,并因而成名。它也是硅谷的宠儿,创始人包含埃隆·马斯克(Elon Musk)和传奇投资者山姆·奥特曼(Sam Altman)。

最重要的是,它因其任务而遭到推重。它的方针是成为第一个发明人工智能的机器——一个具有人类思想的学习和推理才能的机器。其意图不是控制国际;相反,该试验室想要保证这项技能是安全开展的,而且它的优点能均匀地分配给全国际。

这意味着,假如AGI技能的开展遵从阻力最小的路途,那么它很简单失控。围绕在咱们身边的那种蠢笨的人工智能,便是一个比如。问题是,AGI一向都很含糊。该范畴内的共同是,这种先进的才能将需求几十年,乃至几个世纪的时刻——假如真的有或许开展它们的话。许多人还忧虑,过火寻求这一方针或许会拔苗助长。

大多数人第一次传闻OpenAI是在2019年2月14日。那天,试验室宣告了一项令人形象深入的新研讨:只需按下一个按钮,就能够生成令人信服的论文和文章。

但也有一个问题:研讨人员说,这种被称为GPT-2的模型开释起来太风险了。假如这样强壮的技能落入坏人之手,就很简单被“兵器化”,制作大规模的虚伪信息。这当即引起了科学家们的激烈对立。

在继续不断的炒作指控中,OpenAI坚称GPT-2不是噱头。更切当地说,这是一项通过深思熟虑的试验,通过一系列内部评论和争辩后达到共同。我们共同以为,即便这次的举动略微有点过火,但它将为处理更风险的研讨创始先例。

但OpenAI与GPT-2的媒体宣扬活动也遵从了一种老练的形式,这种形式让更广泛的人工智能社区发生了置疑。多年来,该试验室的严重、引人注意图研讨布告一再被责备助长了人工智能的炒作周期。批判人士还不止一次地责备该试验室大肆宣扬其研讨结果,乃至达到了过错描绘的境地。出于这些原因,该范畴的许多人都倾向于坚持必定的间隔。

GPT-2引发如此激烈的反弹还有另一个原因。人们觉得OpenAI又一次违反了它之前关于敞开和通明的许诺,并走上了盈利的路途。未公开的研讨让人们愈加忧虑和置疑——会不会是这项技能一向处于保密状况,为将来取得答应做准备?可是人们并不知道,这不是OpenAI仅有一次挑选躲藏它的研讨。

编译/前瞻经济学人APP资讯组

参阅来历:https://www.technologyreview.com/2020/08/14/1006780/ai-gpt-3-fake-blog-reached-top-of-hacker-news/?itm_source=parsely-api

https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/

公司简介

凯时娱人生就是博 ,www.凯时,凯时国际娱乐下载…… 更多>>

欢迎来电来厂咨询