科技巨头抢占ChatGPT风口, 数据安全挑战不可掉以轻心

天天见闻 天天见闻 2023-02-11 人工智能 阅读: 134
摘要: 若ChatGPT带来的颠覆性影响不可避免,企业和政策制定者均有必要提前预判,并做好数据安全风险管控 文|《财经》记者 王梦欣 樊朔

若ChatGPT带来的颠覆性影响不可避免,企业和政策制定者均有必要提前预判,并做好数据安全风险管控

文|《财经》记者 王梦欣 樊朔

编辑|郭丽琴

近期,由于科技公司谷歌、百度跟随微软密集发布类似ChatGPT的聊天机器人项目,资本市场卷起一场“ChatGPT”概念旋风。

2月3日,有媒体报道称,谷歌已向OpenAI(研发ChatGPT的初创公司)的竞争对手Anthropic投资了近4亿美元。此后的美东时间2月6日,谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)在一篇博文中宣布,将推出实验性对话式AI服务巴德(Bard)。数个小时之后的北京时间2月7日下午,百度在在微信公众号上宣布,将推出类ChatGPT新项目“文心一言”。微软也迅速行动起来,其首席执行官萨蒂亚•纳德拉(Satya Nadella)在美东时间2月7日表示,推出整合了ChatGPT等AI技术的新版Bing搜索引擎和Edge浏览器。

2月7日当天,百度方面对《财经》记者确认,百度正在研发类ChatGPT项目,项目名正是官宣的“文心一言”(英文名ERNIE Bot),并称目前该产品在做上线前的冲刺准备,预计3月完成内测,面向公众开放,但该人士并未透露其他产品细节。

不难理解,由于ChatGPT在上线两个月内已经风靡全球,并达到上亿用户的规模,作为后来者的谷歌、百度及其他科技企业,追赶行动已“刻不容缓”。除了百度,截至发稿时,阿里巴巴、科大讯飞等多家中国公司陆续宣布加入这一赛道。

中国人工智能学会专家顾问、人工智能投资人郭涛认为,在此潮流下,越来越多的企业会加入聊天机器人赛道,也会有越来越多的类ChatGPT产品出现。“我们的市场基数大,技术人才后劲足,是有可能参与和改写游戏规则的。”郭涛说。

郭涛预计,“文心一言”可能会首先嵌入百度旗下 “百家号”,之后会在相关技术成熟后再嵌入搜索产品。因为比较好的技术发展路径是先积累数据、完善训练模型,再应用到搜索引擎。此前,一些AIGC(人工智能生成式内容)应用,比如图文转视频技术,已在百家号落地。

有知情人士表示,面对ChatGPT类型技术,谷歌是被威胁者,而百度是受益者。一方面,在技术上,中国能做出类ChatGPT应用的公司少之又少。AI技术架构分为芯片层、框架层、模型层和应用层。百度都做了全栈布局;另一方面,ChatGPT目前最好的商业应用就是搜索,这刚好是百度一直以来的基本盘。

在产业发展端不断传来竞合消息之时,产业界和学界却依然对于“ChatGPT”带来的数据安全风险保持警惕,并期待能通过前瞻性研判和预防性治理,解决这一难题。

ChatGPT概念股表现大反转

受各种利好消息影响, ChatGPT概念股持续多日在全球多个资本市场受到力捧。

2月6日,A股“ChatGPT”概念股表现抢眼。截至收盘,作为概念股龙头,汉王科技(002362.SZ)再涨10%,报29.66元/股,已连续七个交易日涨停,期间累计涨幅达到77.18%;海天瑞生(688787.SH)涨20%;科大讯飞(002230.SZ)涨9.21%。港股虽然整体走弱,但热门概念股商汤-W(00020.HK)逆势大涨超6%。美股ChatGPT概念指数涨1.33%,其中微软、谷歌、英伟达都有不同程度的涨幅。

2月7日,港股百度集团-SW(09888.HK)自开盘一路飙升,最高一度冲高至17%,至收盘,涨幅仍达到15.33%。美股百度(BIDU.US)涨幅12.18%,同时带动了整个板块上涨3.21%。其中谷歌、微软分别涨超4%,英伟达涨5.14%。A股ChatGPT概念继续走热。截至2月7日收盘,包括神思电子(300479.SZ)、海天瑞声(688787.SH)、神州泰岳(30002.SZ)等6只相关概念股涨幅在10%以上。

机构投资者也对此给出了积极评价。相关资料显示,美国投行麦格理将百度今明两年经调整每股盈测分别上调13%和4%,并预计今年经调整经营利润率将提高2.4个百分点至18.3%。资管巨头贝莱德则增加持仓,将其在百度的持股比例增至6.6%,成为该公司最大股东之一。

然而,2月8日,连续多日涨幅的谷歌股价大跌7.4%,市值一夜蒸发约1056亿美元(约合7172.78亿元人民币),为近三个月以来的最大跌幅。公开信息显示,大跌的原因是,当地时间2月8日,谷歌在法国巴黎举行的新闻发布会上正式披露的聊天机器人产品Bard。在进行演示时出现了一个事实性的错误,Bard在回答“詹姆斯·韦伯空间望远镜的新发现”这个问题时,错误地把另一个望远镜取得的成就安给了前者。

竞争格局仍待时间检验

《财经》记者“搜索引擎”话题向ChatGPT提问

巨头争相入场的当下,它们各自拥有何种优劣势,又将形成怎样的竞争格局?接受《财经》记者采访的分析师和投资人士均认为,不论全球亦或中国市场,目前并不能判断,哪家企业能笑到最后。

公开信息显示,开发出ChatGPT的初创企业OpenAI于 2015年便开启人工智能研究,并在2016年开发出第一个人工智能系统。在随后的几年里,OpenAI陆续推出了语言处理模型GPT-1、GPT-2、GPT-3,直到2022年11月30日,OpenAI发布了全新的聊天机器人模型ChatGPT。

艾媒咨询CEO兼首席分析师张毅认为,谷歌、百度着急推出竞品并不奇怪,因为ChatGPT本质上是搜索引擎的升级版,直接跳过了用户需要寻找、对比的过程,形成一段有逻辑的文字。这一形式对搜索引擎而言,是一种较为理想的结果呈现。“这对谷歌和百度而言将是巨大的挑战。如果现在不做,市场份额就要被别人抢走了。”张毅说。

张毅举例称,在早期互联网时代,新浪、搜狐、网易等科技公司凭借门户网站优势,在互联网新闻业务上做得十分出色,但移动互联网时代到来后,字节跳动推出的“今日见闻”迅速占领市场,对以往的市场格局造成冲击。张毅表示,“可以把今天的ChatGTP理解为当年的今日见闻。”张毅说。

与此呼应的,也是目前最具颠覆性的预言来自谷歌的第23号员工,Gmail的缔造者保罗·布赫海特(Paul Buchheit)。他在在2月1日表示,谷歌将会在一两年内被彻底颠覆,因为其核心商业模式——搜索广告,是其收入的主要来源,将会因AI而消失。

雨花石投资创始人尤丹认为,OpenAI入局最早,且背靠微软,有深厚的技术背景和资金实力,具有相对优势和领先地位。

首先,基于消费者的效率价值:ChatGPT会改变消费者的使用习惯,而且目前已经嵌入Bing搜索引擎里,将会更大地提升效率。其次,谷歌会比小型初创公司更加保守,也存在更大的“声誉风险”。“船太大不好掉头,而且组织决策没有那么快,这反而给了ChatGPT机会。” 尤丹说。第三,微软既号称追加投资数十亿美元,又将旗下全线产品整合ChatGPT,且目前ChatGPT已经有了1亿的用户基数。无论是从用户反馈,还是资本上,都使得ChatGPT占据优势。

正如前述萨蒂亚•纳德拉发布的博文所说,两年前,谷歌也曾推出大语言模型产品LaMDA。但郭涛称,由于相关法律法规不健全及技术伦理挑战等突出问题,谷歌还是犹豫了,慢了一步,没有进一步迭代成类似于ChatGPT的产品。

郭涛分析,一方面,当原有商业模式受到冲击时,为应对挑战,谷歌已经顾不上考虑‘声誉风险’了。谷歌有80%以上的营收来自广告,而ChatGPT是通过整合信息直接生成内容,这会导致广告点击次数减少,从而减少广告收入。另一方面,谷歌采取跟进措施,还是看好类ChatGPT技术广阔的应用场景和巨大的市场空间。

张毅也认为,谷歌未必竞争不过ChatGPT,因为谷歌搜索引擎的能力比微软系的搜索引擎Bing要强得多。此外,谷歌应对C端和B端客户的能力足够强,这对谷歌反而是一个巨大的机会。

下个阶段,在尤丹看来,要看哪家企业能更快占领市场,得拼产品力和商业模式,且必须有资本加持。

尤丹分析,最好的商业模式都是效率最快的方式,需要在用户反馈的基础上快速搭建模型且跑通。就目前ChatGPT的用户量来说,第一个闭环是成功的。接下来,就要看OpenAI能否抓住每一个关键节奏。”

百度之后,也有越来越多的中国公司宣布加入到这个赛道,其中包括阿里巴巴、科大讯飞、昆仑万维等。

有知情人士认为,当下的趋势表明,百度更多会从中受益。

首先,谷歌的收入约80%来自广告,百度广告营收占比仅为57.4%。根据数据,2022 年 Q3,百度核心收入中非广告收入为人民币 65 亿元,同比增长 25%,主要受百度智能云及其他 AI 驱动业务的推动。

其次,百度面临的情况不同。技术上,中国国内能做出类ChatGPT应用的公司少之又少。前述知情人士认为,百度是最有可能挑战OpenAI的中国企业。从2010年起,百度就不断加码AI,在智能技术、软硬件结合、场景落地上不断投入研发,研发金额、人才数量、技术水平和数据积累遥遥领先,最终形成了芯片、框架、模型、应用四层技术栈,其文心系列大模型在行业已普遍应用,而能支撑该训练模型的框架,目前国内没有谁可以超越百度飞桨。

对此,尤丹也表示认同。

张毅和郭涛也认为,就目前而言,中国市场受到ChatGPT的冲击有限,也给百度等企业留下一定的反应时间。

张毅分析,下一步要看百度的对标产品能不能快速上线,此外能否做好内容把控。

张毅同时认为,除了百度,还有其他国内优秀企业在布局这个赛道。因此ChatGPT既给百度打开一扇窗,也可能给百度带来了不小的阻力。“一旦百度的这款产品没做好,市场很有可能被其他对手占据,这对百度而言并不轻松。”张毅说。

2月7日,科大讯飞在投资者互动平台上回应称,该公司在ChatGPT主要涉及到的自然语言处理相关技术及应用上具备长期深厚的积累。同时,该公司已经在核心技术、产业场景、行业数据等深厚积累的基础上,于2022年12月进一步启动生成式预训大模型任务攻关。科大讯飞的AI学习机将成为该项技术率先落地的产品,并将于5月6日进行产品级发布。

2月8日,阿里巴巴“类ChatGPT”项目相关负责人回应财联社称,正在研发类ChatGPT产品,目前正在内测中。

2月9日,自称互联网平台型公司的昆仑万维在官方微信公众号宣布,将与奇点智源合作,在今年内发布中国版类ChatGPT代码开源,防止大公司技术垄断。

数据安全风险的全方位挑战

虽然科技巨头陆续入局类ChatGPT赛道,但对于其可能带来的风险和挑战也有警惕,先后警告本公司员工不要随意与ChatGPT互动。这也引发了公众对于ChatGPT是否会带来数据安全风险的担忧。

据媒体报道,2023年1月,作为OpenAI的主要支持者和合作伙伴,微软一名员工在内部论坛上询问是否可以用ChatGPT工作时,其首席技术官办公室的一位高级程序员回复,只要不与ChatGPT分享机密信息,是可以被允许的。这一消息引发市场关注。

而在此前2022年11月ChatGPT刚刚上线,亚马逊的公司律师就警告员工不要与ChatGPT分享机密数据,因为这将会被其用来作为迭代训练的数据。

对此,北京观韬中茂(上海)律师事务所合伙人吴丹君的解读是,一旦与ChatGPT分享机密信息,这些输入的数据可能被用于未来模型的迭代训练,将会导致其所输出的内容可能包含用户提供的个人信息、机密数据或重要数据,造成敏感数据泄漏的风险。

2月6日,OpenAI首席技术官米拉·穆拉蒂(Mira Murati)在接受美国《时代》杂志采访时表示,与其他基于语言模型的人工智能工具一样,ChatGPT可能会“编造事实”。

米拉·穆拉蒂说,这将会带来以下问题:有人利用ChatGPT自然语言编写的能力,编写恶意软件,从而逃避防病毒软件的检测;利用ChatGPT的编写功能,生成钓鱼电子邮件;利用ChatGPT的对话功能,冒充真实的人或者组织骗取他人信息等。

中国政法大学数据法治研究院教授张凌寒对《财经》记者表示,除了敏感数据的泄漏风险,ChatGPT还有以下数据安全风险:

第一, 未经用户同意即进行大量的数据抓取,从而存在侵犯个人隐私的风险;

第二, ChatGPT很难保证在不断的迭代中完全删除其使用的个人信息。

第三, 在恶意利用方面,ChatGPT通过来自社交媒体或者其他文本数据进行模型训练,可能生成虚假信息、诱骗信息等不良信息,破坏网络舆论生态。恶意使用者能够生成大量用户名和密码的组合,用于对在线账户的撞库攻击。

第四, ChatGPT的自然语言编写能够生成逃避防病毒软件监测的恶意软件,带来网络安全隐患。

北京师范大学互联网发展研究院院长助理吴沈括认为,ChatGPT的一个重要特点是能够快速汇聚海量数据,通过特定的算法模型输出指向的结果。在这个过程中,需要广泛、海量的数据抓取,快速的自动化分析运算,形成特定的数据输出产品。

从数据安全的角度看,这一过程包含三个环节:一是数据的来源;二是数据的汇聚运算;三是数据运算结果的输出和利用。这三个环节都存在深刻的数据安全风险,可以概括为数据来源的安全、数据汇聚运算的安全以及数据输出使用的安全。在这三个环节中,蕴含着一个结构更为复杂、程度更为深刻的新型数据生成、流转、利用生态。

“ChatGPT及同类型的产品从立法、监管、司法三个层面都带来了新的挑战,也提出了进一步完善革新的现实命题。”吴沈括说。

如何应对数据安全挑战

若ChatGPT带来的全球产业浪潮不可避免,政策制定者和企业均有必要做好风险预判和管控。

穆拉蒂在接受《时代》杂志采访中强调,ChatGPT需要监管和规制。穆拉蒂欢迎来自政府、监管机构以及其他所有人的帮助。“若要ChatGPT走得更远,就需要对其进行合规性改造。”穆拉蒂说。

为了应对ChatGPT可能引发的数据安全问题,张凌寒告诉《财经》记者,一方面,需要从法律层面明确有害的类ChatGPT产品的应用范围,推进数据分类分级,定义不同类型的数据以确定各类数据的保护级别和保护措施。另一方面,在技术监管中,监控类ChatGPT产品的使用情况并定期对其进行安全审计,针对技术应用快速迭代的特征,探索动态评估、修改和废止机制,保障监管的科学化和精细化。

吴沈括则认为:“在数据静态安全向更高水平的数据动态安全的规则设计方面,各方需要做出更多努力。包括监管的高效敏捷,以及有效的数据安全相关的司法权益保障能力。”

吴沈括进一步解释,目前,中国的数据安全法律法规相对更偏重于数据静态安全的规则设计,也因此面临动态的安全风险处置挑战。这意味着,后续需要更多关注数据的流动安全、流转利用安全,并对相关法律法规进行完善,这对于建设数据要素市场也具有特别重要的意义。

吴丹君认为,开发并使用类ChatGPT产品的企业,在数据安全合规方面需要注意三个层面:

首先,要保证企业数据来源的安全、可靠,确保已获得处理个人信息的合法性基础;其次,需将算法合规纳入数据安全合规体系,加强技术管理,定期审核、评估、验证算法机制机理。同时,企业还需将伦理道德融入人工智能全生命周期,促进大模型人工智能应用向上向善发展。最后是要加强信息内容管理,建立健全违法和不良信息识别机制和辟谣机制,对输入数据和合成结果进行审核。

责编 | 要琢

本文为《财经》杂志原创文章,未经授权不得或建立镜像。如需,请添加微信:caijing19980418

其他相关
香港科技大学首席副校长郭毅可:区块链等前沿技术为增强数据安全提供解决方案 | 2024中关村论坛

香港科技大学首席副校长郭毅可:区块链等前沿技术为增强数据安全提供解决方案 | 2024中关村论坛

作者: 天天见闻 时间:2024-05-30 阅读: 1
文/羊城晚报全媒体记者 王莉 图/2024中关村论坛新闻中心 4月26日,2024中关村论坛——数据安全治理与发展论坛在北京举办。香港科技大学首席副校长郭毅可就生成式人工智能数据安全治理发表视频演讲。他表示,数据安全治理是人工智能和数字转型时代一个至关重要且不断演进的议题,区块链和量子密码学等前沿技术已为增强数据安全提供了有希望的解决方案。 ...
AIPPT软件有哪些?

AIPPT软件有哪些?

作者: 天天见闻 时间:2024-05-25 阅读: 1
小满,作为中国二十四节气之一,不仅标志着农作物生长的关键时期,也是中国传统文化的重要组成部分。 当我们向国外的同学介绍小满这个节气时,我们应该如何通过演示文稿有效地传达节气背后的文化和自然意义呢? 这时,AI生成PPT软件就能大显身手了。它可以帮助我们以更直观、更生动的方式呈现小满节气。那么,大家想知道AI自动生成PPT哪一个好吗?想的话就看下去吧。 ...
配音软件ai有哪些?

配音软件ai有哪些?

作者: 天天见闻 时间:2024-05-25 阅读: 2
在这个温馨的母亲节,用一份特别的礼物表达对妈妈无尽的爱意。 制作一段满载情感的母亲节视频,不仅需要精心挑选的画面,更少不了一声声暖心的旁白。为了让你的视频更加生动感人,今天就为大家揭秘5款配音软件ai,它们能将文字魔幻般地转化为真实而富有情感的语音! ...
ai绘画软件有哪些?

ai绘画软件有哪些?

作者: 天天见闻 时间:2024-05-25 阅读: 2
现如今,AI技术的融入为创作者提供了前所未有的便利和可能性。短短几年间,从简单的图案生成到复杂的场景构建,AI绘图工具已经能够协助艺术家们解决各种绘画难题。 但是,我们常常会遇到一些问题:如何在保持个人风格的同时,提高作品的专业度?如何在时间紧迫的情况下,快速完成高质量的创作? 不过,其实这些问题使用ai绘图工具就可以轻松解决,那么,大家想知道ai绘图工具免费的有哪些吗?想的话就看下去吧。 ...
聚焦AI科技与医疗的跨学科融合,CAIR香港人工智能与机器人医疗论坛开幕

聚焦AI科技与医疗的跨学科融合,CAIR香港人工智能与机器人医疗论坛开幕

作者: 天天见闻 时间:2024-05-25 阅读: 2
2024年3月28日至29日,“CAIR香港人工智能与机器人医疗论坛”在香港科学园举行。论坛由中国科学院香港创新研究院人工智能与机器人创新中心主办,聚焦人工智能与机器人在医疗领域的创新应用。来自全球的专家学者参与,探讨如何透过科技提升医疗服务质量、优化资源配置、提升效率,并促进医学研究发展。 ...
香港国际旅游展及商务会奖旅游展热烈欢迎科技推动可持续发展论坛

香港国际旅游展及商务会奖旅游展热烈欢迎科技推动可持续发展论坛

作者: 天天见闻 时间:2024-05-25 阅读: 2
作为全球经济支柱之一,旅游业数码化及其可持续发展的重要性与日俱增。日新月异的科技为旅客、旅游业和世界带来了重大的变化, 旅客对于科技与持续旅游发展的关注也不断增加! 科技能否提升旅游体验?当科技与旅游融合时, 它会为业界带来哪些商机和潜在的障碍?业界是否已经在利用科技达致可持续发展? ...
我来说两句

年度爆文