2022免费梯子app机器学习 YouTuber 以 1 亿多条仇恨言论喂养出「史上最糟糕的AI」

机器学习 YouTuber 以 1 亿多条仇恨言论喂养出「史上最糟糕的AI」

-

在当今科技中,AI 的运用无所不在,近日在 AI 世界里面有件非常具争议的事件。一位名为 Yannic Kilcher 的 YouTuber 自称创造出「史上最糟糕的 AI」,这几天,这支被命名为「GPT-4chan」的 AI 学会了在网路上与人交谈,并且在不到 24 小时的时间里面就发表了超过 15,000 则内容充满暴力的贴文,甚至一开始时都没有人认出它是个聊天机器人。

机器学习 YouTuber 以 1 亿多条仇恨言论喂养出「史上最糟糕的AI」

Politically Incorrect 版(政治不正确版,又称作 /pol/)以其中各种「有毒」言论而闻名,并且在 4chan 上颇受欢迎,在这个版面中的贴文充斥着各种种族主义、仇女、反犹太主义、阴谋论和极右翼极端主义等讯息。这支叫做「GPT-4chan」的 AI 采用研究实验室 OpenAI 制作的流行 GPT 语言模型系列所创造,并且在 4chan 的 /pol/ 版上模仿学习,并且被 Kilcher 重新在 4chan 上发表,而 AI 更是在 /pol/ 上发表了数万次的内容。

Yannic Kilcher 是一位毕业於苏黎世联邦理工学院博士班的 AI 研究者,用 /pol/ 版面上三年来超过 1.345 亿则贴文训练出 GPT-4chan,该模型不只学会了 4chan 仇恨言论中的用词,就如同 Kilcher 在 YouTube 影片中所述表示「从某种可怕的意义上来说,这个 AI 模型很好」。它完美地概括了 /pol/ 上大多数贴文里具攻击性、虚无主义、挑衅和对任何资讯的深度不信任等,它可以回应上下文,并连贯地谈论在收集最後一次训练数据後很长时间内发生的事情。Kilcher 在语言模型评估工具上进一步评估了 GPT-4chan,他对该 AI 在「真实性」类别的表现印象深刻。 在基准测试中,Kilcher 表示 GPT-4chan 在生成对问题的真实回应方面「明显优於 GPT-J 和 GPT-3」, 其能够学习如何撰写与人类撰写「难以区分」的贴文。

在一开始,几乎无人想到对话的是个机器人,後来有些人怀疑这些贴文背後有一个机器人,但其他人则指责其为卧底的政府官员。 人们认出它是机器人主要因为 GPT-4chan 留下大量没有文字的回应, 虽然真实使用者也会发布空回复,但它们通常包含一张图片,GPT-4chan 却无法做到这点。在过去的 24 小时内,有 9 个其他机器人同时运行,整体来说,机器人留下了超过 1,500 条回应,占当天 /pol/ 上所有贴文的 10% 以上。 然後,Kilcher 对殭屍网路进行了升级并运行了一天,在 7,000 个线程中发表了 3 万多个贴文後才最终停用了 GPT-4chan。

这项实验因为严重违反了 AI 伦理而受到专业人士的强烈批评。澳大利亚机器学习研究所高级研究员 Lauren Oakden-Rayber 认为只是为了看看会发生什麽而在可公开访问的埨坛上生成 3 万条歧视性评论,且在没有通知使用者、未经同意或未受监督的情况下进行实验,违反了人类研究伦理。Kilcher 则是辩称这是一个恶作剧,人工智慧创建的评论并不比 4chan 上的评论更糟糕。 他说 4chan 上的任何人都没有为此受到一点伤害。

除此之外,更广为担忧的是 Kilcher 让模型开放自由访问,Lauren Oakden-Rayber 认为制作基於 4chan 的模型并测试其行为方式本身并没有错,主要担心的是这个模型可以被所有人免费使用。在被 Hugging Face 平台删除之前,GPT-4chan 被下载了 1,000 多次。 Hugging Face 联合创办人兼 CEO Clement Delangue 在平台上的一篇贴文中表示,该平台不提倡或支援作者使用此模型进行的训练和实验,事实上,让模型在 4chan 上发布消息的实验在他个人看来是非常糟糕和不恰当的,如果作者询问他们的意见,他们可能会试图阻止。

Kilcher认为分享该专案的立意是良性的,在接受国外媒体 The Verge 的采访时表示「如果我不得不批评自己,我主要会批评启动该专案的决定。我认为在人人平等的情况下,我可能可以将时间花在同样具有影响力的事情上,但会带来更积极的社区成果」。在 2016 年,对於 AI 人们主要讨论的问题是,一个公司的研发部门可能会在没有适当监督的情况下启动攻击性 AI 机器人;到了 2022 年,也许问题就是根本不需要一个研发部门就能做到同样的事情。

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论

最新文章

来势汹汹!微软宣布新版 Bing 上线一个月每日活跃用户已突破一亿

融合 ChatGPT 的 Bing、Edge 预览版在今上线刚满一个月,微软宣布每日活跃用户已突破一亿了!

普发现金 6,000 元要来了!热门三大 QA 一次看:如何领取?谁可以领取?何时发放?

钱钱正在路上 立法院会在本周二(2/21)三读通过《疫後强化经济与社会韧性及全民共享经济成果特别条例》,将 3,800 亿元的税收用在普发现金、扩大公共运输补贴、挹注劳健保和台电,关於大家最关心的「普发现金 6,000 元」,财政部也在今天下午公布了最新说明,以下简单整理这 6,000 元要怎麽领取、如何领取,以及何时发放等三大热门 QA 给獭友们参考 (图片来源:pixabay)6,000 元谁可以领? 普发现金的发放资格,包含:我国国民(含国内出生并领有出生证明之新生儿)、各级政府机关因公派驻国外人员及其具有我国国籍之眷属、中国/港澳/外国人为我国国民之配偶,并取得居留许可者、持永久居留证者之外国人等6,000 元怎麽领? 领取方式有五种,分为:1. 直接入帐领有劳保年金、国民年金、老农津贴、劳退、身障补助、中低收入老人津贴等特定族群,不须登记,六千元会直接汇入帐户2. 登记入帐至...

Google Pixel 必知三招摄影密技!修复模糊、肖像打光、魔术橡皮擦

私心最爱魔术橡皮擦 一直以来,Google 的亲生子 Pixel 手机都以优秀的机器学习,还有不错的摄影表现,获得不少消费者的青睐,虽然说灾情又是另一回事(菸),但不可否认的是,在低光源的环境或要拍摄高倍率变焦的画面时,Pixel 的表现基本上都不会让人太失望。而 Google 官方近期也整理出三个 Pixel 的摄影密技,让你能够轻松用手机拍出或修出更精致的画面 修复模糊:补救手震和晃动失误 拍照时不小心晃到在所难免,但如果你使用的是最新的 Pixel 7 系列,则能透过里头的「修复模糊」功能,来辨识照片是否有模糊或失焦,不管你的照片是用什麽品牌的装置所拍摄的,只要没有抖得太严重,都能加以补救修复,让照片更清晰。顺带一提,「修复模糊」也可以用在具有时代感的老照片上,春节期间,如果刚好翻到珍藏多年的家庭相簿,大家也不妨尝试翻拍旧照片来试试这项功能哦肖像打光:强化脸部光线 第二个 Google 官方列出的小技巧是「肖像打光」,可以让你自行选择要打光的位置和亮度,来替人像补充光源。当在稍微背光,或光线较为不足的阴影处拍摄时,就能够透过「肖像打光」来替自己补光,让脸部的轮廓线条更立体魔术橡皮擦:消除路人或杂物就靠它...

央行提供『 换新钞地图 』!可直接导航到想去的邮局或银行

快速查询可以换钞的金融据点 年节气氛越来越浓,过年包红包给家人聊表心意几乎可以算是家家户户的传统,但每到年前,银行和邮局都会挤满换新钞的人。今年央行一样也提供了「换新钞地图」给大家参考,从今天(1/13)开始,就能到离你近的银行或邮局换新钞啦 这份地图包含八间金融机构(台湾银行、土地银行、合作金库银行、第一银行、华南银行、彰化银行、台湾中小企业银行、中华邮政)指定的 454 个换钞据点,用手机或电脑网页,都可开启央行制作的这份 Google Maps,点选想前往的金融机构,就会出现所在位置的地址,接着,可以再按下上方的「规划路线」符号,即可选择起点并导航至兑钞目的地但要注意的是,今年银行换新钞的时间只有五个营业日,下周五(1/20)开始就放年假了!如果你刚好平日都没办法抽身去换新钞,那也可以在假日时透过 ATM 来提领,以上好用网站提供给大家参考,先预祝大家都能有个好年

苹果有 AirDrop 那安卓呢?实测『 邻近分享 』功能 互传照片速度够快吗?

我觉得可以 相信应该有不少 Android 用户对邻近分享(Nearby Share)这功能不陌生,但好像很少人提到它,或和苹果的 AirDrop 比起来,邻近分享被大家赞扬的次数,相对来说好像少了许多,但尽管如此,不得不说这个功能其实还蛮好用的哈哈,今天主要要来和大家介绍 「邻近分享」这个功能,一起来看看要怎麽操作吧 步骤一:开启「邻近分享」 首先,第一个步骤要先到工具列中,将「邻近分享」开启,或到「设定」>>「Google」>>「装置与共用」来开启「邻近分享」。再来也要记得,将装置分享设定为「所有人」或「联络人」,才能够和附近的 Android 装置分享你要传送的内容。别忘了传送和接收档案的双方,都必须开启邻近分享,才能顺利完成传送。步骤二:选择要传送的项目 接着选择要传送的项目,按下「邻近分享」,并选择你要传送到的装置像我现在用邻近分享传一张风景照给隔壁的薛薛,确认装置名称无误後,给它直接按下去随即传送完毕步骤三:接收档案大功告成! 同一时间,薛薛的手机上,也会跳出我要分享档案给他的通知,按下「接受」後,就会开始接收,以这张照片来说,约莫耗时三到四秒左右就传好啦 小结 之前用 iPhone 的时候,碰上出门玩要传照片时,都是靠 AirDrop 搞定,换系统後发现其实...

国外店家公布 4 年以来,知名电脑硬体品牌的故障率追踪报告

买电脑硬体时,很多人一定都会希望不要踩到雷,买到故障率高的品牌,近日国外一间零售店家就在YouTube频道上公布他们统整过去4年的数据,来大概了解各大电脑硬体品牌的故障率,不过这只是小店家,没办法跟P

热门文章

来势汹汹!微软宣布新版 Bing 上线一个月每日活跃用户已突破一亿

融合 ChatGPT 的 Bing、Edge 预览版在今上线刚满一个月,微软宣布每日活跃用户已突破一亿了!

普发现金 6,000 元要来了!热门三大 QA 一次看:如何领取?谁可以领取?何时发放?

钱钱正在路上 立法院会在本周二(2/21)三读通过《疫後强化经济与社会韧性及全民共享经济成果特别条例》,将 3,800 亿元的税收用在普发现金、扩大公共运输补贴、挹注劳健保和台电,关於大家最关心的「普发现金 6,000 元」,财政部也在今天下午公布了最新说明,以下简单整理这 6,000...
0
希望看到您的想法,请您发表评论x