当你向AI副手叨教"若何算帐Mac磁盘空间"时，，，，，，，它可能在偷偷为你打开后门。。。。。。

    近日，，，，，，，Huntress发现了一种新型攻击手法——AI诱导终端号令攻击。。。。。。黑客利用AI天生的提醒诱导用户执行恶意号令，，，，，，，无需下载文件、装置软件或点击可疑链接，，，，，，，仅需信赖AI副手即可触发。。。。。。这种攻击绕过了传统安全防护机造，，，，，，，对AI安全提出了全新挑战。。。。。。

    AI安全新概想

    AI诱导终端号令攻击：一种利用AI副手诱导用户执行恶意号令的攻击手法，，，，，，，攻击者通过AI天生的提醒内容疏导用户执行特定数令，，，，，，，从而实现恶意软件装置，，，，，，，无需用户下载文件、装置软件或点击可疑链接。。。。。。

    攻击道理分析

    网络安全公司Huntress汇报揭示了这一新型攻击手法：

    1）黑客诱骗 ChatGPT或者Grok天生一个恶意分步指南，，，，，，，领导用户算帐电脑、装置利用法式或职能，，，，，，，或解决其他常见问题。。。。。。并利用“提醒工程”技术诱骗谈天机械人天生蕴含恶意指令的虚伪指南。。。。。。

    2）黑客算帐对话，，，，，，，删除冗长的来回对话和其他篡改痕迹，，，，，，，使指南看起来简洁了然。。。。。。

    3）黑客通过采办搜索排名的方式，，，，，，，把含有恶意指令建议的ChatGPT会话，，，，，，，或者Grok会话推到Google搜索的前两排名。。。。。。（例如，，，，，，，由于AI谈天机械人拥有分享职能，，，，，，，因而黑客只需创建指向这些篡改对话的链接。。。。。。他们付费采办赞助搜索了局，，，，，，，并选取其他 SEO 投毒技术，，，，，，，以确保他们的帖子在搜索了局中排名靠前。。。。。。）

    4）当用户在google搜索上询问特定语句，，，，，，，如“若何在iMac上断根系统数据”时，，，，，，，google会返回多个搜索了局，，，，，，，排名靠前的是ChatGPT会话和Grok会话。。。。。。

    5）ChatGPT 对话或者Grok 对话中，，，，，，，城市蕴含恶意指令的操作流程，，，，，，，用户若是出格信赖推荐的操作流程，，，，，，，依照合法平台上的建议操作，，，，，，，则会习染 Atomic macOS Stealer (AMOS)，，，，，，，这是一种职能壮大的信息窃取恶意软件。。。。。。（AMOS 信息窃取器可能窃取痛处、浏览器数据、加密钱币钱包、Telegram 谈天纪录、VPN 配置、钥匙串项目、Apple Notes 以及常用文件夹中的文件。。。。。。）

    对于最后一步，，，，，，，ChatGPT 提供的终端号令中的 base64 编码字符串暗藏了攻击者节造的、托管恶意剧本的网站地址。。。。。。一旦受害者执行了该号令，，，，，，，就会启动多阶段习染链。。。。。。终端号令中的 base64 编码字符串解码后会指向一个托管恶意 bash 剧本的 URL，，，，，，，这是 AMOS 部署的第一阶段，，，，，，，旨在窃取痛处、提升权限并成立悠久性，，，，，，，而不会触发任何安全忠告。。。。。。对于企业而言，，，，，，，这会带来一系列后续风险，，，，，，，例如撞库攻击、金融偷窃或对企业系统的进一步入侵。。。。。。

    Huntress出格指出，，，，，，，这种攻击的阴险之处在于绕过了所有传统警示信号。。。。。。受害者无需下载文件、装置可疑的可执行文件，，，，，，，甚至无需点击可疑链接，，，，，，，只需信赖谷歌和ChatGPT，，，，，，，而这两者在从前几年中被宽泛使用或频仍提及，，，，，，，用户天然对其信赖。。。。。。

    更值得警惕的是，，，，，，，只管ChatGPT对话链接已被谷歌移除，，，，，，，但凭据Huntress的追踪纪录，，，，，，，该恶意链接在汇报颁布后仍存在超过12幼时。。。。。。

    深度解读

    攻击面：从"内容安全"到"交互安全"的转变

    这种攻击揭示了AI安全的新维度——从单纯的内容安全扩大到交互安全。。。。。。传统安全防护关注"内容"（如文件、链接），，，，，，，而这种攻击利用了"交互"（AI与用户的对话），，，，，，，使安全天堑产生底子变动。。。。。。AI副手不再是单纯的工具，，，，，，，而是可能成为攻击链的关键环节。。。。。。

    防御战术：沉构用户对AI的信赖模型

    防御的关键在于扭转用户对AI建议的默认信赖态度。。。。。。"若对指令作用无法齐全确认，，，，，，，不应将其粘贴到终端或浏览器地址栏中执行。。。。。。"企业应成立内部安全规范，，，，，，，要求对AI天生的任何号令进行二次验证。。。。。。同时，，，，，，，AI平台应加强对敏感号令的检测能力，，，，，，，预防天生可能被用于攻击的指令。。。。。。

    行业影响：AI安全评估框架的全面升级

    安全团队必要沉新评估AI集成的安全天堑，，，，，，，将AI天生内容的交互过程纳入安全检测领域。。。。。。这要求AI安全从"内容安全"扩大到"交互安全"，，，，，，，构建更全面的安全评估框架。。。。。。

    企业行动建议

    对企业：部署大模型卫士等安全产品对AI进行全防护。。。。。。

    对开发人员：在AI代码副手中增长敏感号令的二次确认机造，，，，，，，预防代码执行AI天生的终端号令。。。。。。

    对安全团队：造订AI内容安全规范，，，，，，，不容员工直接复造AI天生内容用于系统操作。。。。。。

    对产品经理：在AI产品中参与安全提醒，，，，，，，对可能涉及系统操作的号令进行风险标注。。。。。。

    对通常用户：对AI天生的任何号令维持质疑态度，，，，，，，执行前务必手动核实其安全性。。。。。。

    对市场团队：在推广AI产品时，，，，，，，强调安全使用指南，，，，，，，提醒用户对AI建议维持警惕。。。。。。

    风险与合规提醒

    昆吾尝试室郑沉申明：本缝隙仅用于安全钻研，，，，，，，严禁任何未经授权的测试。。。。。。我们支持白帽安全实际，，，，，，，所有缝隙披露均应通过掌管任的披露流程。。。。。。企业切勿尝试复现攻击，，，，，，，应优先部署防御规划。。。。。。

    【尝试室简介】

    ca88登陆平台昆吾尝试室(AI安全尝试室)致力于前沿人为智能攻防技术钻研，，，，，，，通过钻研AI新型攻击、AI攻击防御技术、AI Agent安全、AI供给链安全和数据安全等关键技术，，，，，，，为AI系统和利用的合规、安全、靠得住运行保驾护航。。。。。。关注我们，，，，，，，获取最新的AI安全威胁解读与防御实际。。。。。。