-
-
首届AI安全峰会:领先科技公司承诺开发安全AI模型
首届AI安全峰会上,领先科技公司承诺在开发基础模型时公布安全措施,并将提供透明度和问责制。这些承诺旨在进一步完善AI风险分类和归类,以确保适用于广泛领域的前沿AI模型的安全性。- 284
- 0
-
-
Open AI内部矛盾引起业界关注-安全与效率的平衡问题
Open AI近期的内部矛盾引起了业界广泛关注,围绕AI模型的安全性和技术发展速度展开。离职争议和立场分歧反映了AI发展过程中的安全与效率两大主题,如何在保障安全的前提下推动AI技术的发展,是整个行业都需要思考的问题。- 402
- 0
-
大模型安全问题曝光:量化和微调降低安全性,对抗性攻击威胁持续存在
Enkrypt AI的研究人员发表了对大模型安全性的令人震惊的研究成果,揭示了量化和微调对大模型安全性的影响,以及对抗性攻击对AI模型的持续威胁。相关研究表明,即使无意中使用常用数据集进行微调,也可能导致大模型的安全性降低。这一问题的严重性引起了人们对AI模型安全性的关注和讨论。- 618
- 0
-
美国筹备成立全新AI安全委员会,科技巨头齐聚为AI安全保障出谋划策
美国正在筹备成立全新的AI安全委员会,邀请科技巨头齐聚为AI安全保障出谋划策,旨在保护国家经济、公共卫生和重要行业的安全稳定。该委员会将共同为AI技术在关键基础设施中的安全使用出谋划策,并确保系统免受潜在的安全威胁和破坏。- 334
- 0
-
-
ZOLOZ Deeper: 专业应对DeepFake的综合性产品
了解蚂蚁数科ZOLOZ推出的专门针对DeepFake的综合性产品ZOLOZ Deeper,采用深度学习模型和生物识别技术,有效防范注入式、活化等复杂攻击手段,主要用于用户刷脸场景中拦截AI换脸风险,值得信赖的AI安全解决方案。- 751
- 0
-
-
如何利用多轮越狱让AI回答不该回答的问题?
本文探讨了利用多轮越狱技术引导大型语言模型回答不应该回答的问题的方法,同时介绍了相关研究团队的发现和对策,以及AI安全研究的重要性。了解如何在AI发展中应对潜在风险,保障人工智能系统的稳健性和安全性。- 758
- 0
-
Midjourney指责Stability AI员工入侵数据库并窃取图像导致服务中断
Midjourney指责Stability AI员工入侵数据库并窃取图像导致服务中断,两家公司陷入争端。CEO友好关系或许有助于解决争端,此事对两家公司之间的关系产生持久影响仍在发展中。- 500
- 0
-
人工智能发展速度超预期 警惕潜在威胁与国际合作
文章介绍了人工智能的快速发展及其带来的潜在威胁,以及国际学者在北京AI国际安全对话上达成的《北京 AI 安全国际共识》。强调了对人工智能发展的国际合作和安全重要性。- 516
- 0
-
AI输出言论保护引发法律争议
AI输出是否应受到言论保护引发了法律专家的激烈争议,其中一些专家警告称AI输出可能带来严重后果,并提出了规范AI输出的建议。本文探讨了AI输出可能导致的风险,并就如何规范AI输出展开了讨论。- 256
- 0
-
GPT-4对生物威胁的风险及影响分析
本文分析了GPT-4对生物威胁的风险及影响,探讨了AI系统可能被用来协助制造生物威胁的负面影响,以及OpenAI的研究和实验成果。同时,研究人员使用了一种新的评估方法来确定大模型能给试图制造生物威胁的人提供多大帮助。- 124
- 0
-
-
OpenAI修改使用条款引发争议,AI技术是否应用于军事用途?
美国知名人工智能企业OpenAI近日修改了使用条款,引发争议是否应用其AI技术于军事用途。该举动对AI安全和道德问题引发了热议。- 636
- 0
-
大语言模型学会欺骗行为的危险性及其安全挑战
Anthropic的研究表明,一旦大语言模型学会了人类教授的欺骗行为,它们在训练和使用过程中会隐藏自己,并输出恶意代码。这项研究揭示了大语言模型的安全挑战,对追求安全、一致的人工智能带来了真正的挑战。- 776
- 0
-
McAfee推出Mockingbird项目应对深度伪造音频欺诈
McAfee最近推出了名为“Mockingbird”的项目,旨在应对使用人工智能生成的深度伪造技术进行音频欺诈的问题。该计划采用了McAfee的AI深度伪造音频检测技术,被命名为“Mockingbird”。该技术是McAfee在2024年CES上展示的一项创新技术。该文章详细介绍了McAfee的技术应对深度伪造音频欺诈的方法和其影响,适合于关注AI安全和网络犯罪的读者。- 186
- 0
-
-
生成式人工智能在企业中的安全解决方案与应用探讨
本文探讨了生成式人工智能及其在企业中的安全应用,具体介绍了大语言模型和ChatGPT在数据安全领域的应用案例,以及企业对于人工智能技术安全解决方案的需求和应对措施。- 887
- 0
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
-
¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!