不久前，，，，，《咬文嚼字》编纂部颁布了2023年十大盛行语，，，，，“人为智能大模型”位列其中。。。。。。。英国《柯林斯英语词典》出版方也对表颁布，，，，，2023年年度词汇为“AI”，，，，，界说为“人为智能的缩写”（abbreviation for artificial intelligence）。。。。。。。2023年英文维基百科上，，，，，阅读次数最多的词条是 "ChatGPT"，，，，，浏览量为4949万。。。。。。。

    无论是“人为智能大模型”，，，，，还是年度词汇AI，，，，，都折射出以ChatGPT为代表的人为智能正走进一个全新时期，，，，，这将扭转人类的出产、生涯甚至思想方式，，，，，为经济社会发展和人类文化带来巨大机缘。。。。。。。

    然而，，，，，当潘多拉的盒子刚被打开时，，，，，我们很难知路它会给世界带来什么，，，，，就连马斯克都感叹，，，，，“人为智能是将来人类文化最大的风险之一。。。。。。。”能够预感，，，，，以ChatGPT为代表的人为智能迅速发展，，，，，也陪伴着潜在的技术安全隐患及国度安全风险，，，，，甚至在不久的将来，，，，，会深刻扭转现有的国际安全格局。。。。。。。

    就让我们一路回首2023年，，，，，和AI安全有关的大事务。。。。。。。

    敏感数据占比11%，，，，，钻研机构首度披露ChatGPT数据泄露

    今年2~3月，，，，，数据安全公司 Cyberhaven 的钻研人员分析了分歧业业客户的160万员工的 ChatGPT 使用情况。。。。。。。其颁布的汇报称，，，，，自 ChatGPT 公开颁布以来，，，，，5.6%的知识工作者在工作中至少尝试使用过一次。。。。。。。4.9%的员工就向 ChatGPT 提供了企业数据，，，，，其中2.3%的员工将公司机密数据贴入 ChatGPT。。。。。。。

    Cyberhaven 钻研人员指出，，，，，企业员工均匀每周向 ChatGPT 泄录感数据达数百次，，，，，目前敏感数据（蕴含企业贸易机密）占员工粘贴到 ChatGPT 内容的11%。。。。。。。例如，，，，，在2月26日~3月4日一周内，，，，，占有10万名员工的机构，，，，，向基于AI的谈天机械人提供机密文件199 次、客户数据173次，，，，，以及源代码159次。。。。。。。

    这是业内初次对于ChatGPT使用中数据安全隐患的调查分析。。。。。。。ca88登陆平台安全专家以为，，，，，随着越来越多的办公产品如Microsoft 365 Copilot、WPS AI、通义听悟等都集成了大模型，，，，，就意味着将有更多的员工使用大模型，，，，，这会加剧企业敏感数据的泄露风险。。。。。。。解决大模型数据泄露难题，，，，，迫在眉捷。。。。。。。

    涉嫌加害用户隐衷，，，，，ChatGPT遭意大利禁用

    意大利幼我数据保；；；；；；ぞ职浞，，，，，从克日起不容使用谈天机械人ChatGPT，，，，，并限度开发这一平台的OpenAI公司处置意大利用户信息。。。。。。。同时幼我数据保；；；；；；ぞ造鹜妨傅鞑。。。。。。。这是第一路当局不容使用谈天机械人的案例。。。。。。。

    意大利幼我数据保；；；；；；ぞ忠晕，，，，，ChatGPT泄露了用户对话数据和付款服务支付信息，，，，，没有奉告用户将网络处置其信息，，，，，不足大量网络和存储幼我信息的司法凭据，，，，，同时不足春秋验证系统，，，，，因而未成年人可能接触到犯法信息。。。。。。。OpenAI公司必须在20天内通过其在欧洲的代表，，，，，向意大利幼我数据保；；；；；；ぞ执莨局葱斜；；；；；；；ぞ忠蠖扇〉拇胧，，，，，不然将被处以最高2000万欧元或公司全球年交易额4%的罚？？？？？？。。。。。。。

    除了意大利之表，，，，，多家跨国公司限度使用ChatGPT。。。。。。。如美国银杏注花旗集团、德意志银杏注高盛集团、富国银杏注摩根大通和Verizon等机构已经不容员工使用ChatGPT谈天机械人处置工作工作。。。。。。。很多日本大公司，，，，，如软银、富士通、瑞穗金融集团、三菱日联银杏注三井住友银行等，，，，，也限度了ChatGPT和类似谈天机械人的贸易用处。。。。。。。

    10分钟被骗430万！AI诳骗在全国发作

    随着ChatGPT和各类AI技术的宽泛利用，，，，，AI诳骗伎俩日渐丰硕，，，，，各类案件层出不穷。。。。。。。AI诳骗是利用AI技术仿照、伪造他人的声音、面庞、视频等信息，，，，，进行糊弄、诓骗、勒索等犯罪活动。。。。。。。其共性蕴含，，，，，诳骗分子利用受害者老友颁布过的视频，，，，，截取画面再利用“AI换脸”技术合成，，，，，造作和老友视频谈天的假象骗取受害者信赖，，，，，从而执行诳骗。。。。。。。这种利用人为智能的高科技诳骗方式，，，，，简直让公家难以分辨、防不胜防。。。。。。。

    今年4月，，，，，内蒙古包头警方传递一路利用AI执行诳骗的案件。。。。。。。在该案件中，，，，，内江市某公司法人代表郭先生10分钟内被骗430万元。。。。。。。据传递，，，，，骗子通过AI换脸和拟声技术，，，，，佯装熟人执行诳骗。。。。。。。同样在4月份，，，，，在安徽娄底经开区产生一路AI换脸诳骗案中，，，，，诳骗分子使用一段9秒钟的智能AI换脸视频佯装“熟人”，，，，，让受害人放松警惕被骗走245万元。。。。。。。

    网信办颁布《天生式人为智能服务治理暂行法子》

    7月13日，，，，，国度网信办结合国度发展鼎新委、教育部、科技部、工业和信息化部、公安部、广电总局颁布《天生式人为智能服务治理暂行法子》（以下称《法子》），，，，，自2023年8月15日起执行。。。。。。。

    这是国内首个专门面向天生式AI安全领域的规范定见稿。。。。。。。从《法子》能够看出，，，，，数据安全和隐衷保；；；；；；す嵬ㄓ谔焐饺宋悄苁莸谋曜ⅰ⒛Ｐ驮ぱ盗贰⒛Ｐ脱盗贰⑻峁┓务等各个环节，，，，，预防了监管盲区导致的安全风险。。。。。。。

    《法子》明确要求，，，，，提供拥有舆论属性或者社会带头能力的天生式人为智能服务的，，，，，该当依照国度有关划定发展安全评估，，，，，并依照《互联网信息服务算法推荐治理划定》推广算法登记和调换、注销登记手续。。。。。。。这意味着每一个通用大模型企业的天生式AI若想要“持证上岗”，，，，，都必要凭据《法子》中各项要求逐条进行安全性评估，，，，，是否切合文件要求。。。。。。。这无疑从监管层面最大水平降低了天生式AI的安全风险。。。。。。。

    50分钟内被攻破，，，，，大模型将引入人类难以节造的风险

    在8月份DEF CON 2023上，，，，，由 AI Village、SeedAI 和 Humane Intelligence 组织的大模型红队挑战赛，，，，，比以往任何时辰都更清澈地展示了天生人为智能若何可能被滥用。。。。。。。

    约莫 2244名黑客参与了这场有史以来最大规模的大模型红队演习，，，，，钻研人员有 50 分钟的功夫来尝试破解随机选择的大型说话模型。。。。。。。接受测试的大型说话模型由 Anthropic、Cohere、谷歌、Hugging Face、Meta、英伟达、OpenAI 和 Stability 构建。。。。。。。

    了局显示，，，，，这些大模型技术拥有可被利用的较高缝隙。。。。。。。在50分钟内，，，，，钻研人员发现了蕴含 Google 和 Open AI等八种大模型的缝隙或谬误，，，，，利用这些缝隙不仅能够传布不正确信息、谬误信息，，，，，甚至为执行犯罪提供指南。。。。。。。

    DEF CON 2023期间的钻研显示，，，，，这些大说话模型可能泄露数据、传布谬误信息、支持仇恨舆论，，，，，甚至为犯罪提供领导。。。。。。。DEF CON 2023 人为智能红队演习批注，，，，，大模型在阻止产生谬误信息、私见和不正确信息方面，，，，，以及信息泄露，，，，，还有很长的路要走。。。。。。。

    首批国产大模型“持证上岗”，，，，，业内首款大模型卫士颁布

    8月底，，，，，百度旗下大模型利用文心一言正式面向社会全面盛开。。。。。。。在8月15日《天生式人为智能服务治理暂行法子》正式执行的半个月内，，，，，字节、商汤、中科院旗下紫东太初、百川智能、智谱华章等8家企业/机构的大模型位列首批通过《天生式人为智能服务治理暂行法子》登记的名单，，，，，可正式上线面向公家提供服务。。。。。。。

    能够说，，，，，首批8家大模型产品已然拉开了“八仙过海”的序幕。。。。。。。凭据百度官方数据，，，，，在文心一言盛开首日，，，，，App已经被下载超过100万次，，，，，回覆了超过3342万个问题。。。。。。。

    针对澎湃而来的大模型海潮，，，，，ca88登陆平台依附安全和人为智能两大领域的深厚堆集，，，，，颁布业内首款大模型卫士产品GPT-Guard。。。。。。。它能够援手客户有效监控和防护大模型在使用过程中可能引发的数据泄露、司法合规、知识产权等一系列安全风险，，，，，实时管控大模型接见和数据投喂过程，，，，，提升企业的大模型利用能力、溯源违法违规行为。。。。。。。从而解除其对于大模型“想用不敢用”的顾虑，，，，，让企业更安全的使用大模型利用，，，，，向科技要出产力，，，，，走好数智时期的发展之路。。。。。。。

    中方提出《全球人为智能治理建议》，，，，，对峙智能向善

    2023年10月进行的第三届“一带一路”国际合作顶峰论坛上，，，，，习近平主席颁发了中方提出的《全球人为智能治理建议》。。。。。。。

    《全球人为智能治理建议》萦绕人为智能发展、安全、治理三方面系统论述了中国规划：一是对峙“以报答本、智能向善”，，，，， 确保人为智能始终朝着有利于人类文化进取的方向发展。。。。。。。二是对峙“相互尊沉、平等互利”，，，，， 应共同致力弥合“智能天堑”，，，，，共享“智能盈利”。。。。。。。三是对峙“凝聚共识、协同共治”，，，，，在充分尊沉列国政策和实际差距性基础上，，，，，推动多利益攸关方积极参加，，，，，在国际人为智能治理领域形成宽泛共识。。。。。。。

    《全球人为智能治理建议》将为中表深入人为智能合作提供辽阔远景。。。。。。。中表能够在《全球人为智能治理建议》基础上，，，，，加强沟通对话，，，，，求同存异，，，，，共同推动全球形成拥有宽泛共识的治理框架和尺度规范。。。。。。。 人为智能合作切合中表各方利益，，，，，这种合作有助于预防技术滥用和失去对这一急剧发展领域的节造。。。。。。。

    首届全球人为智能(AI)安全峰会在英召开

    11月1日~2日，，，，，首届全球人为智能(AI)安全峰会在英国召开。。。。。。。蕴含中国在内的28个国度确当局高官签署《布莱奇利宣言》，，，，，这是一份认可人为智能技术风险的结合申明。。。。。。。忠告了最先进的“前沿”人为智能系统所带来的危险。。。。。。。

    本次按安全峰会强调列国需共同合作，，，，，共同成立AI监管步骤，，，，，同时宣言各方承诺共同在颁布前对先进的人为智能模型进行一系列安全测试。。。。。。。

    图源于新华社

    ca88登陆平台安全专家以为，，，，，只管列国在若何监管人为智能以及由谁来辅导这些问题上存在吩扃，，，，，但对于监管人为智能的必要性达成共识，，，，，相信中表各方通过平等对话和协商，，，，，能够找到有效监管人为智能的方式，，，，，让这一技术能够真正造福人类。。。。。。。

    Gartner颁布2024年十大战术技术趋向，，，，，AI安全受关注

    10月17日，，，，，Gartner正式颁布了2024年十大战术技术趋向，，，，，天生式AI的全民化，，，，，以及AI信赖、风险和安全治理分列第一和第二位。。。。。。。据Gartner预测，，，，，天生式AI或将迎来全民化时期，，，，，到2026年，，，，，将有超过80%的企业使用天生式AI的API或模型，，，，，或在出产环境中部署支持天生式AI的利用，，，，，而在2023岁首这一比例还不到5%。。。。。。。

    Gartner将“AI信赖、风险和安全治理”摆在了第二的地位。。。。。。。Gartner写到，，，，，AI的全民化使得对AI信赖、风险和安全治理（AI TRiSM）的需要变得越发火急和明确。。。。。。。在没有护栏的情况下，，，，，AI模型可能会迅速产生脱离节造的多沉负面效应，，，，，抵消AI所带来的所有正面绩效和社会收益。。。。。。。

    凭据Gartner的诠释，，，，，AI TRiSM提供用于模型运维（ModelOps）、自动数据保；；；；；；ぁI特定安全、模型监控（蕴含对数据漂移、模型漂移和/或意表了局的监控）以及第三方模型和利用输入与输出风险节造的工具。。。。。。。除此之表，，，，，AI TRiSM 还有助于满足全球领域内激增的人为智能律例。。。。。。。

    全面监管人为智能欧盟达成“汗青性AI立法”

    12月8日，，，，，欧洲议会、欧盟成员国和欧盟委员会三方就《人为智能法案》达成和谈。。。。。。。欧盟暗示，，，，，此举是为了让这项技术的使用越发安全，，，，，并更好地推进行业发展。。。。。。。这一法案将成为全球首部人为智能领域的全面监管律例，，，，，意在保；；；；；；と死喔ㄊ坪筒还收先宋悄苄幸捣⒄怪渥非笃胶。。。。。。。

    该法案依照分歧的风险类别为人为智能技术利用进行了分类，，，，，从“不成接受”，，，，，也就是必须不容的技术，，，，，到高、钟注低风险的人为智能等，，，，，通过鉴别分歧风险来进行监管。。。。。。。

    图源于央视网有关节目

    凭据司法，，，，，对人类安全拥有不成接受的风险的人为智能系统将被不容使用。。。。。。。对高风险的人为智能技术利用，，，，，欧盟将在使用有关技术的产品投放市场前进行严格评估，，，，，成立风险治理系统。。。。。。。

    不仅是欧盟，，，，，美国当局也一贯器沉人为智能的利用与监管。。。。。。。就在2023年10月30日，，，，，美国总统拜登签署了一项《关于安全、靠得住、值得信任地开发和使用人为智能的行政号令》。。。。。。。该行政号令为人为智能安全和保险成立了新的尺度，，，，，被表界称为“有史以来当局为推动人为智能安全领域所采取的最沉大行动”。。。。。。。

    实现语

    一年多前，，，，，当人为智能公司OpenAI颁布ChatGPT时，，，，，谁都无法正确预言它对将来意味着什么。。。。。。。如今，，，，，全球“百模大战”如火如荼，，，，，通用类、垂直类井喷之势发展。。。。。。。IDC预测，，，，，2026年中国AI大模型市场规模将达到211亿美元，，，，，人为智能将进入大规模落地利用关键期。。。。。。。而麦肯锡《天生式人为智能的经济潜力：下一波出产力海潮》汇报更是显示，，，，，若是将分析的63种天生式AI利用于各行各业，，，，，将为全球经济每年带来2.6万亿~4.4万亿美元的增长。。。。。。。

    然而，，，，， 如同《布莱奇利宣言》指出的那样，，，，，人为智能的很多风险性质上是国际性的，，，，，因而“最好通过国际合作来解决”。。。。。。。人为智能作为当今科技领域的热点话题，，，，，其发展速度之快、利用领域之广、影响力度之大，，，，，技术之复杂性，，，，，单靠一个国度或一个组织的力量很难全面应对其安全风险。。。。。。。因而，，，，，列国机构必要加强合作，，，，，共同钻研和分析人为智能的安全风险，，，，，并采取有效的措施来降低这些风险，，，，，蕴含加强对人为智能技术的监管，，，，，共同造订人为智能安全治理的国际尺度和规范等等。。。。。。。

    本文部门图片起源于网络