shopify analytics ecommerce
tracking
请选择 进入手机版 | 继续访问电脑版

加拿大新闻网

加拿大新闻网 首页 新闻 科技 查看内容

“复活”著名音乐人女儿后,小冰公司CEO开始担忧

加新网CACnews.ca| 2024-3-19 09:33 |来自: 市界

在狂奔了一年后,中国AGI突然出现了一种奇怪的二元性,以朱啸虎为典型的商业化落地派,与以月之暗面创始人杨植麟为代表的技术信仰派,成为AGI创业的一体两面。

但AI的快速迭代,所带来的影响远不止如此。不仅关乎钱与信仰,也关乎伦理。

不久前,台湾著名音乐人包小柏,用AI技术“重现”了自己因病逝世的22岁女儿包容,也激起了大众对“AI复活”产业链的好奇。

简单的操作和低成本,就能“定制”和“还原”逝去亲人的音容笑貌,甚至能够让其跟你互动、对话,这样的“诱惑”越来越多地出现在广告宣传语上。

“AI包容”项目技术合作方正是小冰公司,小冰公司CEO李笛坦言已在担忧,这种“技术创新”的滥用,会造成不可逆的危害。

和2023年AI孙燕姿出现时,他的态度一样,再次强调了不假思索的“开源”所带来的潜在危害,并呼吁全行业思考这样一个问题:“一切以技术创新为名进行的侵权行为,是不是有点滥用‘技术创新’这个词了?”

3月16日,乔任梁父亲因近日发布的“AI复活版乔任梁”发声,他直言不能接受,感到不舒适,希望对方尽快下架,“他们未征求我们同意,是我侄女刷到视频发给我的,这是在揭伤疤。”

以下是市界和小冰公司CEO李笛的对话:

01、“我们担心可能打开了潘多拉魔盒”

市界:作为技术提供者,你怎么看待外界对包小柏用AI复活女儿这件事的讨论,技术上的难点是什么?

李笛:我们一直比较担心的事情确实发生了。之前出于尊重个人隐私的考虑,我们不会主动出来(宣传)这个技术。

不像有的公司,是自发想“复生”一个某某人物的数字形象,然后去征求家属同意。我们不会主动做。

其实,“复生”一个人很容易,但做好,做“像”很难。现在一个技术特点是,准入门槛在大幅度降低了。一开始定制,需要2000句话,200句话,现在可能只需要20句话,甚至更少。

▲(包小柏与女儿包容)

包容(注:包小柏女儿)这个案例,陆陆续续做了一年。之前给到的数据量很小,只给到三句话,还是英文的。就用三句,简单介绍学校图书馆的语音,要还原出一个有点台湾口音的ABC,还要让“她”不仅可以对话,还能唱歌。

从技术上,并不是那么难做。只要在预训练的阶段,把这个东西训练的足够好,用一个非常稀少的样本量,就可以把它调用出来。从这个角度说,“数字包容”没有那么特别。

▲(经包小柏授权对话截图)

市界:包小柏在其中的参与程度如何?

李笛:他参与程度非常深。事实上,我们也都特别推荐这种参与方式。亲人在这个过程里得到了很大的慰藉。

当包小柏能很高兴地表达出他的女儿是他亲手“复现”,这个过程本身,就是这件事情的意义之一。如果这个人是在世的,要把自己“创造”出来,这个(调试)过程也能够让他临终最后这一段路变得相对平静很多。

我们不停通过一个一个Case的完善和改进,来使整个技术越来越趋向于标准化和成熟。

这些AI克隆人的创造者,我们把他们视为一半的工程师或者说一半的产品经理。正是有(包小柏)这些反馈和不断迭代,帮助不是光迭代这一两个“包容”的版本,实际上是在迭代整个小冰技术框架。

市界:你们开发了端口给包小柏去做调试,那这件事是否普通人也能做到,理论上没有门槛?

李笛:我们不能要求这种事情有门槛。跟GPT一样,这种技术不能只掌握在少数人手中。恰恰相反,就是一定要把它的门槛降下来。

实际上,今天有很多人想利用这个信息差,让我帮你做,来攫取不正当利益,我们是倾向于让它变的更透明的。

市界:如果我们把所谓的“复活”亲人当做一个可定制化的个人产品,它是否能够得到普及?

李笛:要做这件事的伦理门槛很高。但其实跟其他类型的克隆人(比如之前的陪聊“半藏森林”)本质技术上没有什么太大区别。现在X EvaApp上,50万粉丝以上的大V网红已经3000多人了。一般的克隆人已经快100万个了。

但是它的难点,不在于技术和产品,也不在于定价。而在于我们必须要坚持一个非常高的伦理准则。有很多材料要补充。它不是以“便利性”为第一要求,而是以“伦理原则”为第一要求的事。

伦理上,最没有瑕疵的是本人,自己要求做。其次是直系亲属。亲属也可能出现滥用的问题,那我们要求,必须要满足三原则:要有社会监督,必须注明是AI,必须要事项公开。


我们2017年就申请这项专利了,2021年获批,这些年会有这样三类人来咨询:已故人的在世亲友、朋友和本人。

有一个自杀去世的著名歌手的朋友就来咨询过,但我们拒绝了,伦理要求上不符合。我们要求的条件:必须是亲属发起(需求),且亲属意见一致。

我们非常强调说,发起人必须得是亲人。因为来自亲人的确认(像不像)是最直观的,且很有可能造成伤害最小的。

一旦涉及到交互,“像不像”这件事情特别取决于交互对象。一般认为家人会掌握更多决定权。

市界:小冰对这个案例的总结是怎样的,未来能有更多“复活”案例出现吗?

李笛:现在来看,这件事引发的热度已超出我们的想象。

因为技术门槛降低,有很多小机构或者是小团队(开始入局),未来一年内,很可能会大量地去做这件事情,我们很担心会造成社会性危害和风险。

一是害怕向公众兜售焦虑。就像当年有个说法,要让人们去保存“脐带血”,以防万一日后孩子生病用得上,某种程度上是一种兜售焦虑。

实际上,技术越发展,反而不需要那么多数据。要让你提前保存数据的项目,可以说,都是骗局。

“复活”亲人的念头,往往是剧烈的、突然产生的,最可能发生在什么场所呢?临终关怀相关的场合、特定的纪念日,这就带来了一定不确定性——很可能就有人打殡仪馆主意,就像医院太平间门口卖花圈的多。

第二件事是侵权。在世的人都可能被侵权,何况往生的人?像最近很热的“点读机女孩”,还有去年的“AI孙燕姿”。

理论上来讲,“AI孙燕姿”就是对孙燕姿赤裸裸的侵权。无论从它的数据、品牌,还是可能产生的收益分配,孙燕姿整个过程都被排斥在外。这还是孙燕姿本人还在呢,都无力挽回。

所以需要避免类似的情况再发生。因为历史证明,发生过很多回了。生死问题,始终是人类所面对的最大问题。所以兜售的焦虑中,莫大于生死焦虑。这个是绝对不能这么做的。

情感代偿的价值对于生者是存在的,但并不一定非得以完全的技术复生来实现。AI技术能使这种代偿得到最大化实现,但不能在危害社会前提下。

我们担心的是,可能打开了一个潘多拉魔盒。会产生劣币驱逐良币的问题。一个机构,提供这个服务,把成本cover回来,这是合理的对吧,非营利机构不代表是公益机构。但是追求商业利润最大化的机构去做,是截然不同的。

现在就是这样,很容易一个事情就迅速变成了一种赚钱的方法。

02、“不要给地上扔AK47”

市界:AI技术的进步,必然会伴随一系列的问题,比如说我们会更加频繁地看到一些类似AI换脸等新型骗术的出现,怎么去做防范和避免?或者说,这是否是不可避免的?

李笛:是可以避免的。我们在几年前就已经呼吁了,但是我们的呼吁毫无声响。先把不加以深度、仔细考虑就把所有技术开放出来,提供API接口调用,甚至是基于开源或者提供这种工具的技术输入公司,全都先关掉。应该不允许随便地把技术开源出来。

举个之前的例子,全世界范围内绝大部分的黑客攻击都不是黑客干的,都是没有黑客技术的普通人。有一些是恶作剧,有一些就是为了利益,也有一些就是玩。

有的人把黑客技术,包装成傻瓜级的应用,不考虑对方是谁,就把这个东西放出来,也就十块二十块,迅速地,基于这个东西就会形成一个产业链。

AI换脸诈骗也是一样的。有人在没有很谨慎的情况下,就把AI换脸的技术开源放出来了。问题根源在于,最初从根上,当你放出这个技术的时候,完全有能力预判,它会被用来干这个。

市界:但站在今天这个时间点来看的话,开源这件事情是不是不可逆的?

李笛:很多开源是为了商业价值,是非常自私的,仅仅为了打击竞争对手或展现实力,而丝毫不考虑开源这个东西所产生的社会危害性。

因为人工智能技术相关法律,包括一系列的评判标准,还都不够呢,就把它放出来,这跟你为了打开当地的武器交易市场,把AK47扔在地上有什么区别呢?

人工智能技术的开源和软件的开源,完全不是一个概念。软件的开源是一种开发资源的开源。而人工智能的开源是能力的开源。

软件资源的开源可以节约时间和成本。但是能力的开源不一样。能力的开源存在着能力的边界。任何国家都不允许武器的图纸可以随便开源出来。

人类是经不起诱惑的。比方说有两类人,今天有一个开源大模型,这个大模型可以说服人们去买东西或者交流。另外有一波人是在缅北,用这个去打诈骗电话,显然这批人会倾注更大的热情,因为会有很大的价值利益回报。

所以当你开放出一种能力出来,而社会的法制、人们的评价没有达到一个标准的时候,那显然是作恶的人会更愿意去尝试。

已经无法回避这件事了。今年2月,香港有一起最大金额AI诈骗案,就用AI换脸CFO诈骗了一个跨国公司两亿元(港币)。这件事情有办法阻止吗?没办法了。

今天高兴的事情是,毕竟人工智能技术还是没有像大家认为的那么智能。

你用它写一篇论文,还是比较容易看出来它是满满的GPT味儿,也能用技术手段检测。但法律法规现在压力比较大,你只有利用非技术手段去规范这件事情。

因为说实话,识别AI论文这件事,要想检测出的技术的难度是高于用它来生成这个东西的难度。就是盾的难度是高于矛的。

另外就是,我觉得整个行业应该重新去思考一件事,就是一切都以技术创新为名义,是不是有点滥用技术创新了?

去年,AI孙燕姿火爆出来以后,孙燕姿发了一篇微博,表达自己的无可奈何,但我不阻止。为什么。因为如果阻止的话,一堆人会说你老土,不够拥抱“创新”。

市界:更多的一种无奈可能是在于,孙燕姿也无法阻止?

李笛:虽然孙燕姿无法阻止,但B站想阻止是很容易的吧?(笑)

大家如果不认为这是问题,或者大家在认为这有可能是问题的时候,会有一个声音出来说,这是技术创新。这(技术创新)就成了是一个放之四海而皆准的一个挡箭牌,是一个永远都很好用的说法。

所谓的这个不创新的人会被认为是保守的,那么他们就会保持沉默。

03、“中美不存在差距,但大家太习惯踩在别人的肩膀上成功”

市界:最近业内关于AGI的讨论,出现了显著的分歧,比如朱啸虎觉得中美差距还是非常大,他的AGI信仰聚焦在马上能变现的。

李笛:坦率讲,我不认为中美有差距。很多人讲(差距),是有一级市场二级市场的利益在那儿。从我的角度看,中国算力并不短缺,但分配不均。中国有两百多个大模型,多少算力够?撒沙子这么撒都不可能。问题是,为什么这么多人要做大模型?美国才有几个基础大模型?

我们去年3月份就在这么说,没有人认同。大家都在卷参数,只要规模足够大就可以吞噬一切了。

问题是,为什么这么说?因为内行在努力尝试,把一个东西解构出去,让外行可以理解。很多问题根源就是这个,科技不自信。

都知道,不该卷参数、卷指标,卷榜单。但问题是,你去跟投资人讲,听不懂,只会问你参数规模多大,榜单上排第几?曾经有一段时间,行业投资人只听得懂参数规模,你是100B,它是130B,那他比你牛。你是72B,那你不如他。

国外有一个什么样的AI应用,国内公司恨不得开发出20个AI应用。(资源)就是浪费在这儿。

为什么跟着抄?因为真有原生技术创新,别人听不懂。很容易解释,好,我是中国的OpenAI,懂了。但我要不对标(美国)呢,说我要做什么,听不懂。

市界:这是因为风投行业投资人跟行业的技术理解差距太大?

李笛:投资人,行业都是一样的。包括普通人都是一样的,如果有一个东西,西方国家有可以对标的,所以我也有,这件事就很好理解。

如果有一个东西,美国还没有,我中国有,好像这东西就不好解释。

市界:这种观念有错吗?

李笛:我们这一代科技领域,投资领域,成长于互联网时代,2000年前后,包括Web2.0,人们会有一个肌肉记忆。

你看,搜索引擎起家,百度,那我是中国Google,很好解释。中国的价值在于我有一个非常广阔的市场,只要我做了谷歌做的事情,比它晚两年,就能把它从中国市场挤掉,吃掉这个市场,就成功。

在那个时代大浪淘沙过程中,这种思维惯性是可以成功。但我不是很认同跟着美国做才是唯一路径。

市界:“晚两年”这个技术差距,在当下不存在吗?像去年“百模大战”,出了那么多大模型,但客观来说还是赶不上GPT?

李笛:(笑)就是这个,你知道为什么赶不上,就是因为在卷参数,迅速上马去冲。

你想做一个大模型,需要的几个条件,中国有没有?算力,有,数据,有。技术算法,都是透明公开的,一直在GPT3.5前,都是透明的。我们的科研人才,也完全充分。

Exactly,就在大模型浪潮出现之前,有很多在美国的华人工程师回国创业,参与到像达摩院之类的大厂AILab中。那时候微软很痛苦,都留不住中国工程师往国内涌。

市界:那为什么这波浪潮没有率先发生在中国?

李笛:就是没有沉稳的心。

原来有这样一个故事,说在意大利有一个小镇。小镇去了一个犹太人,一看这个地方没有皮鞋店,他就开了一个皮鞋店。后来呢,有其他犹太人也过去了,有的人往前面产业链上,做这个皮子,有的人开了跟皮鞋搭配的服装。这个小镇就蓬勃起来了。还有另外一个小镇,有一个中国人过去,开了一个皮鞋店。其他中国人看他卖皮鞋卖得好,每个中国人都开了一个皮鞋店。

我们现在的产业情况就是,不考虑自身的特长,不考虑产业链,更多考虑的是,我在这件事上如何能够更快地,站在别人的肩膀上成功。

什么叫站在别人肩膀上成功,就是你看我解释起来容易,我就容易成功。

Open AI有七年的时间,解释起来都很难,很难解释出这个方向是不是正确的。那如果在中国,可能守不住这个阵地,早就换方向了。

很长一段时间,Open AI 在干苦活,下笨功夫的。如果不是因为后来有好的效果,那会是被嘲笑的。

市界:Open AI 背后也是有微软来做资金支持,能够支持长期的研究投入,国内的投资是不是更倾向于快速看到回报?

李笛:这其实是一个比较有意思的问题,这可能跟我们的一级市场,二级市场也有关。我们对于翻倍式增长的要求太高了。我们有时候对于指标的优化太极致了。我个人觉得,这是应试教育所带来的一种思维定势。

总有一个排行榜,年级排名。你知道,清华算是有一大波人是应试教育的佼佼者。我有一些同学就是毕业后,还是觉得自己是考试是最强的,就去考各种资格证,考了20多个资格证。他不是为了要这个证干嘛,就是因为你给定一个东西,要得多少分,或者排名到哪,这个他容易做,知道怎么去优化这个指标。

市界:是不是大家现在想要“确定性”的心态会更强烈?或者说,容错率在变低?

李笛:对,所以我们的观点就是,我们就坚持做自己就行了,就跟去年似的。那时也有人问你们模型参数是多少?那我们模型参数就不要那么大。当时投资人就说我们,你们凭什么落后了?那你说就说吧。

但这是有代价的,就是在国内,这种代价很大。你要是在硅谷,这种是被认可的。你要在国内,那就是不合群。

市界:我们之前也有AI Lab这样的技术创新储备探索,但这几年陆续都没落了,原因会是什么?

李笛:AI Lab看起来不那么成功的原因有很多,我个人觉得最主要的原因之一,就是他们在优化一个核心指标。各大AILab,很希望通过对AI的投入来建立自己的技术领先,但如何去“描述”这个技术领先呢?靠论文。

所以迅速变成了一种怪象,(AI Lab)成了论文生产工厂。很长一段时间,咱们国家的人工智能论文数,哎,世界第一。

我们特别害怕,你定好一个指标,就往这个指标上极致卷,中国人真的很擅长这个。

当然也会有一些好效果。比如短视频平台,那我们就极致地去优化各项指标,让你去沉迷。

市界:但很多人觉得,这些平台在商业上非常成功。

李笛:问题在于我们不能只有一种生活方式,而这种方式攫取了人们绝大部分的时间。

中国有很多人,白天送外卖,晚上很累躺在床上拿手机刷短视频。过了三年以后,他还是只能送外卖。为什么,因为他没有提高职业技能的机会。这样的平台把这些人的时间吞噬了。某种程度上,相当于是从这些人的人生里把时间拿走了,平台换来了广告。普通人呢?

你要说这是不是一个商业上的成功,是。但是它是不是道德的,它不是。这是一个business,但不是好的business。

我记得我小时候,你问这个小朋友,长大了,想做什么?答案还是挺多元的。现在没什么多元的。只以财富作为衡量标准,那就会只朝着这个方向(发展)。

市界:现在大家对AI浪潮的担忧集中在,不一定会让我的生活先变得更好,可能会先抢夺走我的工作?

李笛:因为这件事情有利益关系。我能卖啊。对于一个未知的东西,什么比恐惧更有推动力呢?

就是小时候我们常听到的那句话,千万不能输在起跑线上。还有妈妈会说的,等你觉得冷的时候已经来不及了。这个很痛苦,让你永远都会有一种恐惧。

市界:这是不是一种匮乏感,大家是在资源较少,差距较大的一个环境中,天然会有的恐惧?

李笛:那恐惧就成了源动力,而不是热爱。

我见过很多人是这样。一个外地小孩,从外地考来北京,目的是到北京上学,所以学了一个不喜欢的专业。到北京上学后,学这个专业的目的是拿到北京的户口,所以进了一个不喜欢的单位。拿到户口以后,目的是买房。所以一直在做不喜欢的职业,永远在做的事情,不是他喜欢的事情,永远都因为另外一个目的而做当下这件事情。

那这对于创新来讲,是很可笑的。我们有多少这个所谓的创业者,是为了财富自由,而不是为了创业本身?

有很多人说我要做大模型,背后的真正原因是什么?我们见到一大票人,是因为担心像当年错过iPhone,错过移动互联网一样,担忧错过了。

还有一大票人,是因为现在说,我做大模型,能融到钱。就像那个来北京的小孩,那他总有“另一个”目的,而做这件事。

那当我们做一个逝者复刻的时候,我们意识到,之所以要做这件事情,是因为这件事对于相关的这些人有特定的,不可替代的安慰和抚慰作用。而不是它是一个好的生意,不是要以盈利指标为驱动力。

你看包容这个case,我们就会让AI仍然能够延续她作为一个歌手的梦想。但如果你是为了挣快钱,完全没必要去做这个事。

市界:但是延续歌手梦想这个是父亲的梦想吧?

李笛:是因为人去世以后就已经不存在了。

市界:你个人会是“数字永生”派吗?

李笛:我的想法是,人逝如灯灭。你人不在了,别人怎么利用你都跟你没关系了。我不想留下点什么,我没有想留下点什么的想法。

免责声明:本网转载的文章仅为传播更多信息之目的,本网未独立核实其内容真实性,文章也不代表本网立场。如文章侵犯了你的权利,请联系我们修改或删除。本网提供的内容,包括并不限于财经、房产类信息,仅供参考,不构成投资建议;本网内容,包括并不限于健康、保健信息,亦非专业意见、医疗建议,请另行咨询专业意见。本网联系邮箱:contact@cacnews.ca

最新评论

今日推荐

亮眼! Lululemon官宣奥运会加拿大队服 本土元素超吸睛 又要抢断货!?

加拿大 昨天 13:45

加币连续5天跌 央行6月降息恐引崩盘! 联邦预算案遭前央行长狠批"42年来最糟糕"! . ...

加拿大 昨天 13:44

  • 48小时新闻排行
  • 7天新闻排行

今日焦点

旗下公众号

关注获得及时、准确、全方位的新闻消息

Copyright © 2012-2020 CACnews.ca All Rights Reserved 版权所有

返回顶部