7月31日，ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型，引领安全行业革命”为主题，呼吁行业以大模型重塑安全体系，守护数字经济稳健发展。大会汇聚了多位院士专家，以及360、华为、微软等国内外企业领袖，深入剖析人工智能技术发展带来的安全挑战与解决方案，共同探索安全大模型驱动数字安全发展新路径。

人工智能安全问题不容忽视

亟需产研携手共探新解法

人工智能技术的广泛应用正推动着各行各业转型升级，同时为安全行业的发展注入了强劲动力。中国工程院院士吴世忠在主题演讲中，从生成式人工智能安全研究的总体态势和技术热点角度进行了深入分析。他表示，由AI技术带来的新型安全问题已成为现实，安全行业将迅速迈进AI驱动的新时代。然而，大模型安全研究可以说刚刚开始。无论是安全研究还是安全产业，都必须紧跟科技进步和应用创新，才能服务好发展，保障好发展。

“当前，AI应用系统安全责任与风险严重失衡”，中国工程院院士，国家数字交换系统工程技术研究中心(NDSC)主任邬江兴在主题演讲中强调了当前AI系统面临的窘境。他提出，基于内生安全架构可发现或纠正AI应用系统安全问题，AI应用系统中必须包含必要多样性和相对正确公理的内生安全构造，在不可信的过程中找到相对可信的结果。智能时代需要选择正确的技术路径，实现更安全的AI应用系统。

寻找“明星场景”

加速安全大模型实践应用

随着人工智能技术的飞速发展，所有行业和产品都在被重塑，安全行业同样面临着一场革命。360集团创始人，ISC大会主席周鸿祎在《打造安全大模型，引领安全行业革命》的主题演讲中指出，用AI重塑安全的本质是让安全做到“自动驾驶”，360首推安全大模型，对购买360标准产品的用户免费提供大模型标准能力，实现大模型普惠和安全行业新质生产力变革。

作为国内唯一兼具数字安全能力和AI技术双重优势的厂商，360基于深厚的全栈大模型底层技术、世界上规模最大的安全知识库、亚洲最大的高级安全专家团队和多领域全覆盖强实战的安全场景能力，打造了国内首个安全大模型“360安全大模型”，并在终端、安全运营、安全服务等诸多业务场景落地实践。目前360全线安全产品已集成安全大模型能力，并对所有购买360标准产品的用户免费提供大模型标准能力。

当前，人工智能跨越式发展，技术创新加速迭代，业界主流模型从千亿稠密到万亿稀疏，并逐步走向百万级超长序列和多模态。华为副总裁，ISP与互联网系统部总裁岳坤在演讲中表示，如何在智能时代的早期保证相应的服务能力和服务水平，将是首批的智能应用面临的核心挑战之一。他强调，提升安全水平是保障智能化服务能力和服务水平的关键，而原生是人工智能时代最大的安全。华为今年发布了昇腾原生计划，将投入专项资金，以技术+商业驱动生态繁荣，为客户打造更加匹配场景需求的方案，加速AI模型的应用。

平衡AI治理与赋能

共话“安全+AI”融合发展新路径

随着生成式人工智能驱动AI发展进入新阶段，AI治理随之也变成了一个突出问题。先进计算与关键软件(信创)海河实验室主任，中国新一代人工智能发展战略研究院执行院长龚克在演讲中指出，AI治理应遵循有利发展、为人服务和基于伦理三点原则，要清楚认识到技术自身的不足，以及人对于AI技术的恶用、滥用、误用等风险。他强调，防止AI“作恶”要建立明确的伦理标准、提高透明度和问责制、完善法律法规、内置安全机制等。此外，要坚持开放创新，在信创基础上发展安全可控的AI生态。

随后，在由IDC中国副总裁钟振山主持的“安全大模型引领数字安全新升级”圆桌对话上，教育部高等学校网络空间安全专业教学指导委员会秘书长封化民，360数字安全集团副总裁余凯，统信软件副总裁万慧星，微软大中华区安全与合规业务产品市场负责人李亮，围绕大模型技术对于安全行业的影响、大模型在安全领域应用的主要优势和障碍以及小模型的应用价值等话题，发表了各自观点。

一直以来，ISC致力于搭建“政产学研用”的国际交流平台。ISC.AI 2024数字安全峰会上，来自国内外的专家学者和企业精英共同探讨了安全与大模型技术融合的前沿议题，不仅为数字安全创新发展提供了宝贵的启示，更推动了数字安全技术的跨越式发展，引领我们迈向一个更加智能、安全、和谐的数字新时代。

举报 0 收藏 0 打赏 0评论 0分享 0

更多>同类资讯

ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型

“把大模型拉下神坛就要把免费贯彻到底，今天我在行业里第一个宣布安全大模型免费。”7月31日，ISC.AI2024第十二届互联网安全大会开幕，聚焦AI带来的安全新机遇，三六零(601360.SH，下称“360”)集团创始人周鸿祎表示，用AI重塑安全的本质是让安全做到“自动驾驶”，360

07-31

阿里通义免费开放奥运AI大模型

7月31日，阿里通义宣布免费开放奥运AI大模型，具备最强奥运专业知识，并集合同声传译级别的中法互译功能。即日起，用户可以在通义APP免费使用。通过奥运专项强化训练，通义大模型已具备业界最强奥运专业知识，可以最快地回答奥运相关的各种问题。在通义APP的主搜索和“

07-31

要把大模型拉下神坛，周鸿祎：360安全大模型免费

【ITBEAR科技资讯】7月31日消息，据新浪科技，在今天举办的第 12 届互联网安全大会上，360集团创始人、董事长兼CEO周鸿祎宣布360安全大模型免费。这一举措无疑在科技界掀起了不小的波澜。周鸿祎更称 360“要把大模型拉下神坛”，使其不再成为少数厂商的专属赚钱工具，而

07-31

实时对话更自然，OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式

【ITBEAR科技资讯】7月31日消息，OpenAI于当地时间30日宣布，即日起GPT-4o的语音模式(注：Alpha版本)将对部分ChatGPT Plus用户开放，计划在今年秋季将该功能逐步推广至所有ChatGPT Plus订阅用户。据ITBEAR科技资讯了解，OpenAI首席技术官米拉・穆拉蒂(Mira Murati)在早

07-31

Meta战略调整：明星AI聊天机器人退场，用户自制AI成新宠

【ITBEAR科技资讯】7月31日消息，据最新报道，Meta已悄然终止了其备受瞩目的明星AI聊天机器人项目，该项目曾让用户能够与模仿知名人士性格的AI进行互动，成为去年Meta Connect大会上的耀眼明星。值得关注的是，Meta在周一正式推出了AI Studio，这一新工具旨在鼓励美国地

07-31

黄仁勋与扎克伯格支持 AI 大模型开源，互换外套展兄弟情谊

【ITBEAR科技资讯】7月30日消息，在近日于美国丹佛盛大召开的第51届SIGGRAPH图形大会上，英伟达CEO黄仁勋与Meta CEO马克・扎克伯格展开了一场别开生面的炉边对话。这两位科技巨头的领导者就人工智能与仿真模拟的未来发展趋势进行了深入探讨。对话伊始，黄仁勋对英伟达GP

07-30

Getty与英伟达推出高效AI文生图：4图6秒生成，支持长提示词

【ITBEAR科技资讯】7月30日消息，昨日(7月29日)，Getty Images与英伟达公司共同发布了一款新型安全的商业文生图AI模型。据悉，这款AI模型能在短短的6秒内生成4张照片，相较于之前的模型，其性能提升了一倍，图像生成速度在业内堪称翘楚。该全新文生图AI模型部分采用了英

07-30

实现千人千面的普惠化AI？波形智能发布新一代个性化自适应私人语言模型

每一项革命性的技术诞生后,人类都需要探寻技术走向“应用普惠”的方法。正如造纸术的诞生带来了文明的传播,蒸汽机带来了人流、物流,电子计算机技术带来了今天互联网的一切,它们背后的逻辑都是先进技术普惠穿透了应用边界,触达每个人,带来社会级的变化,从而形成了文明的

07-29

AI引领奥运新风尚！小度成为用户全能“奥运伙伴”

当地时间7月26日，2024年巴黎奥运会正式开幕，科技的力量再次成为连接观众与这场运动盛会的桥梁。在此期间，基于全新文心大模型打造的国民智能科技品牌小度化身“奥运伙伴”，陪用户一起看奥运、聊奥运、参与奥运，全方位沉浸式感受奥运盛会的魅力。一句“小度小度，我

07-29

OpenAI下周推出GPT-4o语音模式，ChatGPT Plus用户将率先体验无缝AI聊天

【ITBEAR科技资讯】7月26日消息，OpenAI首席执行官山姆・阿尔特曼(Sam Altman)今日在回应网友提问时透露，公司计划在下周向ChatGPT Plus用户开放Alpha版本的GPT-4o语音模式(Voice Mode)。这一新功能的推出将为用户实现更为流畅、无缝的语音聊天体验。据ITBEAR科技资讯了

07-26

智谱AI新推“清影”工具：30秒生成视频，免费试用！

【ITBEAR科技资讯】7月26日消息，智谱AI今日宣布对其视频生成模型进行了全面升级，并正式推出了新一代产品——CogVideoX。据悉，CogVideoX模型已在智谱清言的PC端、移动应用端以及小程序端全面上线，所有C端用户均可通过智谱清言的AI视频生成功能“清影”(Ying)免费体验

07-26

OpenAI人事变动：AI安全高管马德里转岗，专注AI推理新领域

【ITBEAR科技资讯】7月24日消息，OpenAI公司近日宣布了一项内部架构调整。首席执行官山姆・阿尔特曼(Sam Altman)通过X平台透露，原本负责AI安全的主管亚历山大・马德里(Aleksander Madry)已被调岗至一个新职位，该职位主要聚焦于人工智能推理领域。在推文中，阿尔特曼兴

07-24

作家集体反对番茄小说AI协议，公司回应：已上线解除条款功能入口

【ITBEAR科技资讯】7月23日消息，近期网络文学界掀起了一场关于AI版权使用的讨论风波，众多网文作家纷纷发帖声讨番茄小说在其签约协议中新增的“AI训练补充协议”。该协议要求作家们授权将自己的作品提供给平台的AI系统，以用于进一步的内容开发，此举遭到了广泛的反对

07-23

橡鹿科技再获京东近 2 亿元战略投资

【ITBEAR科技资讯】7月22日消息，据橡鹿科技最新公告，该公司再获京东近 2 亿元战略投资并达成全面战略合作。这次合作将结合双方的AI技术和产业优势，共同推动“机器人+”产业的持续高质量发展。橡鹿科技计划利用这笔资金进一步扩大其AI炒菜机器人工厂的规模，旨在全面

07-22

ElevenLabs推出Turbo 2.5 AI模型：普通话转语音速度飙升3倍

【ITBEAR科技资讯】7月20日消息，ElevenLabs于昨日(7月19日)通过博文向世界宣布，他们已成功推出全新的Turbo v2.5文本到语音AI模型。这款新模型支持包括普通话在内的32种语言，覆盖了全球近80%的地区，为用户提供高品质、低延迟的AI对话体验。Turbo v2.5模型的一个显著