2022免费梯子app机器学习 YouTuber 以 1 亿多条仇恨言论喂养出「史上最糟糕的AI」

机器学习 YouTuber 以 1 亿多条仇恨言论喂养出「史上最糟糕的AI」

-

在当今科技中,AI 的运用无所不在,近日在 AI 世界里面有件非常具争议的事件。一位名为 Yannic Kilcher 的 YouTuber 自称创造出「史上最糟糕的 AI」,这几天,这支被命名为「GPT-4chan」的 AI 学会了在网路上与人交谈,并且在不到 24 小时的时间里面就发表了超过 15,000 则内容充满暴力的贴文,甚至一开始时都没有人认出它是个聊天机器人。

机器学习 YouTuber 以 1 亿多条仇恨言论喂养出「史上最糟糕的AI」

Politically Incorrect 版(政治不正确版,又称作 /pol/)以其中各种「有毒」言论而闻名,并且在 4chan 上颇受欢迎,在这个版面中的贴文充斥着各种种族主义、仇女、反犹太主义、阴谋论和极右翼极端主义等讯息。这支叫做「GPT-4chan」的 AI 采用研究实验室 OpenAI 制作的流行 GPT 语言模型系列所创造,并且在 4chan 的 /pol/ 版上模仿学习,并且被 Kilcher 重新在 4chan 上发表,而 AI 更是在 /pol/ 上发表了数万次的内容。

Yannic Kilcher 是一位毕业於苏黎世联邦理工学院博士班的 AI 研究者,用 /pol/ 版面上三年来超过 1.345 亿则贴文训练出 GPT-4chan,该模型不只学会了 4chan 仇恨言论中的用词,就如同 Kilcher 在 YouTube 影片中所述表示「从某种可怕的意义上来说,这个 AI 模型很好」。它完美地概括了 /pol/ 上大多数贴文里具攻击性、虚无主义、挑衅和对任何资讯的深度不信任等,它可以回应上下文,并连贯地谈论在收集最後一次训练数据後很长时间内发生的事情。Kilcher 在语言模型评估工具上进一步评估了 GPT-4chan,他对该 AI 在「真实性」类别的表现印象深刻。 在基准测试中,Kilcher 表示 GPT-4chan 在生成对问题的真实回应方面「明显优於 GPT-J 和 GPT-3」, 其能够学习如何撰写与人类撰写「难以区分」的贴文。

在一开始,几乎无人想到对话的是个机器人,後来有些人怀疑这些贴文背後有一个机器人,但其他人则指责其为卧底的政府官员。 人们认出它是机器人主要因为 GPT-4chan 留下大量没有文字的回应, 虽然真实使用者也会发布空回复,但它们通常包含一张图片,GPT-4chan 却无法做到这点。在过去的 24 小时内,有 9 个其他机器人同时运行,整体来说,机器人留下了超过 1,500 条回应,占当天 /pol/ 上所有贴文的 10% 以上。 然後,Kilcher 对殭屍网路进行了升级并运行了一天,在 7,000 个线程中发表了 3 万多个贴文後才最终停用了 GPT-4chan。

这项实验因为严重违反了 AI 伦理而受到专业人士的强烈批评。澳大利亚机器学习研究所高级研究员 Lauren Oakden-Rayber 认为只是为了看看会发生什麽而在可公开访问的埨坛上生成 3 万条歧视性评论,且在没有通知使用者、未经同意或未受监督的情况下进行实验,违反了人类研究伦理。Kilcher 则是辩称这是一个恶作剧,人工智慧创建的评论并不比 4chan 上的评论更糟糕。 他说 4chan 上的任何人都没有为此受到一点伤害。

除此之外,更广为担忧的是 Kilcher 让模型开放自由访问,Lauren Oakden-Rayber 认为制作基於 4chan 的模型并测试其行为方式本身并没有错,主要担心的是这个模型可以被所有人免费使用。在被 Hugging Face 平台删除之前,GPT-4chan 被下载了 1,000 多次。 Hugging Face 联合创办人兼 CEO Clement Delangue 在平台上的一篇贴文中表示,该平台不提倡或支援作者使用此模型进行的训练和实验,事实上,让模型在 4chan 上发布消息的实验在他个人看来是非常糟糕和不恰当的,如果作者询问他们的意见,他们可能会试图阻止。

Kilcher认为分享该专案的立意是良性的,在接受国外媒体 The Verge 的采访时表示「如果我不得不批评自己,我主要会批评启动该专案的决定。我认为在人人平等的情况下,我可能可以将时间花在同样具有影响力的事情上,但会带来更积极的社区成果」。在 2016 年,对於 AI 人们主要讨论的问题是,一个公司的研发部门可能会在没有适当监督的情况下启动攻击性 AI 机器人;到了 2022 年,也许问题就是根本不需要一个研发部门就能做到同样的事情。

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论

最新文章

超强 Windows 全能影音下载软体 Fast Video Downloader 限免!最高支援 8K 画质,还内建萤幕录影功能

虽然现在网路上有很多免费影片下载工具,但稳定性、支援的格式、以及能下载的最高画质,还是桌面版比较强大,因此有机会下载到付费版的话,我都会推荐。像最近相当强大的FastVideoDownloader就推

iOS 16 全系列新功能使用大全 这些超方便功能你都会用了吗?

iOS 16 已经推出一段时间了陆续还更新了许多新功能但这些功能你都会使用吗?快来看看你还遗漏了哪个吧00:00 iOS 16 技巧大全00:35 新增锁定画面00:57 锁定画面背景图片01:48 锁定画面小工具02:28 锁定画面专注模式02:58 相簿上锁03:40 照片去背04:06 修图数值复制贴上04:34 iCloud 共享图库05:59 显示电量百分比06:22 Safari 钉选网页07:02 即时动态07:41 复制 Wi-Fi 密码08:20 用药提醒08:55 连接 Switch Joy-Con【制作团队】企划:巧珂脚本:巧珂摄影:R 导 剪辑:R 导 字幕:R 导 监制:晴子、Ethan、高小宇

AMD 推全新游戏同捆包,买指定 RX 6000 系列显卡可免费获得 2 款新游戏大作

早在今年6月时,AMD就曾推过RaiseTheGame游戏同捆包,当时活动只到8月13日就结束,可能是还有不少库存,RX7000系列也会陆续登场,为了提升RX6000系列买气,稍早AMD 宣布推出全新

iPad 全系列该怎麽选?谁适合买哪台?入手苹果平板前必看!

目前在苹果官网上,有多达五款 iPad 可以选择。包含入门款的 iPad 9、iPad 10,尺寸迷你轻巧的 iPad mini 6、娱乐多工兼具的 iPad Air 5,和提供给专业人士使用的 M2 iPad Pro,有这麽多款 iPad,但到底该怎麽选择最适合自己的呢?本篇文章就要来分析 iPad 家族中,哪台平板适合谁,以及在购买 iPad 前需要知道的几件事情,以下会依照价格来介绍,先来看看入门款的 iPad 9 和 iPad 10 有哪些特色

如何开启 macOS Ventura 中的接续互通相机功能,将iPhone 变成高阶视讯镜头

如果你一直觉得Mac电脑上的FaceTime视讯镜头的影像品质很糟糕,没关系!Apple在iPhone上用了相当不错的相机,透过最新的macOSVentura和iOS16相互搭配,透过接续互通相机功能

出国要考雅思?读写救星『 IELTS Simon 』网站介绍,说说从英语小白攻上 7 分的心路历程

疫情退烧了,你在 2020 年因为疫情而没递交的国外学校申请,如今终於要投递了吗?不过⋯在这之前要先把雅思考起来呀!虽然两年过去了,但英文还是一样难,相信所有备考雅思的人都有一样的困境,努力在台湾制造英语环境,但语感还是不好,做题还是太慢。今天薛薛来介绍一个网站:IELTS Simon 里面有丰富的雅思应考资源,想当初我也是每天在网站上晃来晃去呢

热门文章

超强 Windows 全能影音下载软体 Fast Video Downloader 限免!最高支援 8K 画质,还内建萤幕录影功能

虽然现在网路上有很多免费影片下载工具,但稳定性、支援的格式、以及能下载的最高画质,还是桌面版比较强大,因此有机会下载到付费版的话,我都会推荐。像最近相当强大的FastVideoDownloader就推

iOS 16 全系列新功能使用大全 这些超方便功能你都会用了吗?

iOS 16 已经推出一段时间了陆续还更新了许多新功能但这些功能你都会使用吗?快来看看你还遗漏了哪个吧00:00 iOS 16 技巧大全00:35 新增锁定画面00:57 锁定画面背景图片01:48 锁定画面小工具02:28 锁定画面专注模式02:58 相簿上锁03:40 照片去背04:06 修图数值复制贴上04:34 iCloud 共享图库05:59 显示电量百分比06:22 Safari 钉选网页07:02 即时动态07:41 复制 Wi-Fi 密码08:20 用药提醒08:55 连接 Switch Joy-Con【制作团队】企划:巧珂脚本:巧珂摄影:R 导 剪辑:R 导 字幕:R 导 监制:晴子、Ethan、高小宇
0
希望看到您的想法,请您发表评论x