AI 键盘准确模仿了格林童话,连人类的偏见也一并学了

 


偏见习自人类投喂的原材料,不过人类仍可以扭转这些偏见

“从前有匹金色的马,它身上配着金色的马鞍,它的鬃毛里插着一支美丽的紫花。这匹马每天都会将花送给村里的一位公主。公主日日都为自己看起来如此美丽而起舞……”

这个故事开头来自于尽力模仿格林兄弟笔触的 AI 键盘,它在人类写手的指引下写出了一个格林童话式的奇怪故事《公主与狐狸》,它的主角是一个不想嫁给坏王子的公主、一只会说话的狐狸,一匹金色的魔法小马,和一个穷苦磨坊主的儿子。在狐狸的帮助下,磨坊主儿子解救了被逼嫁人的公主,最终过上了幸福的生活。

尽管句子的起承转合和词语用法不太自然,但是它整体看上去还是十足的格林童话范。

创造它的是 Botnik 公司具有预测输入功能的 AI 键盘,以及从中选择出故事走向的人类。Botnik 由 Jamie Brew 和 Bob Mankoff 联合创建,后者是《纽约客》的前漫画编辑。他们将各种文本材料投喂给 AI 软件,让它学习并掌握从《汉密尔顿》歌词到《哈利波特》的种种用词和叙事方式,为作者提供符合原材料的写作建议,旨在为作者打开创新思路(也许同人作者会觉得它更有用)。

Brew 设计了一个具有预测输入功能的键盘界面,先选择一种想要模仿的风格,当人类开始在输入框里敲下任意单词时,键盘就开始为他们寻找下一个符合原作的用词,比如输入“赫敏抬起/举起了(Hermione raised her)……”,那么排在前三位的建议是眉毛、手和魔杖;“罗恩看起来(Ron looked)……”,给出的头一个建议是“紧张”。

以下是网站给出的部分模仿范例:

创造格林童话需要两套键盘。一套负责叙事,为故事定下整体结构,一套用于生成对话。“在人类输入语句的每一步,都可以看到 AI 键盘给出的提示,由软件根据原材料的文本模式而生成。”

准确地说,并不是 AI 原创了故事,它的整个过程少不了人类的干预。人类在键盘提供的大范围选项中挑出词汇决定故事走向。如果人类的思维局限于“模仿”,那么最终故事很难脱离键盘所依赖的原材料的组织逻辑。

因此这个故事带上了来自 200 年前人类文化(原材料)的偏见——公主是善良的、快乐的、美丽的,唯一的反叛举动是拒绝嫁人,其余时刻都在跳舞、微笑、哭泣、等待被拯救。另一个女性角色皇后除了点头没做别的。其余的角色均为男性,包括狐狸和马。

“经过训练的 AI 系统从原材料中继承了偏见,这是一个很大的问题”,南加州大学的 AI 研究者 Kate Compton 说。不过这也不能全怪机器,她指出,人类也是创作过程的主角,因而偏见部分来自于“这些写手毕生受到的文学写作训练,继而被用于选择方向和组织故事。”

实际上原来的剧情不是这样,写手们在写作时甚至有意偏离了格林童话风格。Brew 透露,作者本来要刻意写一个给人惊喜的故事,最终是磨坊主的女儿拯救了多位公主,但是为了体现键盘的“聪明”,在后期被编辑成了现在的样子。好吧。

佐治亚理工学院的人工智能教授 Mark Riedl 说,尽管这种受训于人类生成数据的软件会不可避免地拾取偏见,但人类没必要刻意去除这些偏见,而应该想办法更新 AI 的建议框架,让生成的故事与现代价值观保持同步。“我们的偏见、用词习惯和刻板印象都是随时代变化的,我们不用以过去的偏见来写现在的故事……” 既然人类有权决定故事的最终面貌,那么他们也可以选择无视 AI 给出的带有偏见的建议,甚至将之完全扭转,“这是一柄双刃剑,但是在正确的人手里,它仍然可以发挥魔法。”

题图来自《小红帽》

 

5 Comments

  1. ⅠⅡⅢΔⅢⅡⅠ 2018年4月26日 at 上午12:00

    玩具罢了

     
  2. Captain_Chang 2018年4月25日 at 下午9:11

    我只想说这篇文是AI翻译的吗 那个键盘是什么鬼

     
  3. Baropue 2018年4月25日 at 下午12:30

    村里的公主……

     
  4. 过日子 2018年4月25日 at 上午7:39

    我看不到前路

     
  5. Big 2018年4月25日 at 上午7:11

    定制网文的时代要来到了吗?作家和司机一样也要被AI取代了吗?

     

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.