OpenAI 封禁了5个组织账号 其中2个来自我国

吾爱分享 AI领域评论105字数 2088阅读6分57秒阅读模式
OpenAI 封禁了5个组织账号 其中2个来自我国

OpenAI 于2024年2月14日在其官网发布了一条公告,封禁了5个组织账号,其中2个来自我国。下面是基于官方的英文公告总结出来的具体内容:


人工智能(AI)是一种可以改善人们生活和解决复杂挑战的工具,但也可能被恶意行为者滥用,用于对他人造成伤害,包括进行网络攻击。在这些恶意行为者中,有些与国家有关联的组织,他们可能拥有先进的技术、庞大的财力和熟练的人员,对数字生态系统和人类福祉构成特殊的风险。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

OpenAI是一家致力于创建和推广友善的人工智能的研究机构,它与微软威胁情报部门合作,成功打击了五个试图利用AI服务进行恶意网络活动的国家恶意行为者。这些行为者分别是:与中国有关联的Charcoal Typhoon和Salmon Typhoon,与伊朗有关联的Crimson Sandstorm,与朝鲜有关联的Emerald Sleet,以及与俄罗斯有关联的Forest Blizzard。OpenAI终止了与这些行为者相关的账户。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

这些行为者通常试图利用OpenAI的服务来查询开源信息、翻译、寻找编码错误和执行基本的编码任务。他们的目的可能是为了进行网络间谍、钓鱼攻击或其他形式的网络破坏。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

OpenAI的发现表明,它的最新模型GPT-4对于恶意网络安全任务的能力是有限的,只是比现有的公开可用的非AI工具略有增强。这与OpenAI之前与外部网络安全专家合作进行的红队评估的结果一致。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

尽管当前模型对于恶意网络安全任务的能力有限,OpenAI认为有必要保持领先,应对重大和不断变化的威胁。为了应对这一威胁,OpenAI采取了多方面的措施,来打击恶意国家行为者对其平台的滥用:文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

  • 监测和打断恶意国家行为者。OpenAI投入技术和团队,来识别和打断复杂的威胁行为者的活动。它的情报和调查团队与安全、保障和完整性团队协同工作,通过多种方式进行调查,包括使用模型追踪线索、分析对手如何与平台互动、评估他们的更广泛的意图。一旦发现,OpenAI会采取适当的行动,打断他们的活动,比如禁用他们的账户、终止服务或限制资源的访问。
  • 与AI生态系统合作。OpenAI与行业合作伙伴和其他利益相关者定期交流关于检测到的恶意国家行为者利用AI的信息。这种合作反映了OpenAI自愿承诺促进AI技术的安全、可靠和透明的开发和使用,并旨在通过信息共享促进对生态系统范围内风险的集体应对。
  • 迭代安全缓解措施。从现实世界的使用(和滥用)中学习是随着时间推移创建和发布越来越安全的AI系统的关键组成部分。OpenAI从这些行为者的滥用中吸取教训,并用它们来指导其迭代的安全方法。了解最复杂的恶意行为者如何试图利用我们的系统来造成伤害,让我们能够预见到未来可能变得更普遍的做法,并让我们不断改进我们的保障措施。
  • 公开透明。OpenAI一直致力于突出AI的潜在滥用,并与行业和公众分享我们对安全的了解。作为我们持续推动负责任使用AI的努力的一部分,OpenAI将继续向公众和利益相关者通报我们在系统内检测到的恶意国家行为者利用AI的性质和程度,以及我们采取的措施,当情况需要时。我们相信,共享和透明有助于提高所有利益相关者的意识和准备度,从而对抗不断变化的对手,改善其他人的体验。

绝大多数人使用我们的系统是为了帮助改善他们的日常生活,从为学生提供虚拟导师,到为视力受损的人提供可以转录世界的应用。正如许多其他生态系统一样,有少数恶意行为者需要持续的关注,以便其他人可以继续享受AI的好处。尽管我们努力尽量减少这些行为者的潜在滥用,但我们不可能阻止每一种情况。但是,通过不断地创新、调查、合作和分享,我们让恶意行为者在数字生态系统中更难逃避检测,同时改善其他人的体验。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html 上述中文表述来自对OpenAI公告内容的翻译


中国是人工智能的重要参与者和贡献者,拥有庞大的数据资源、优秀的科研人才和广泛的应用场景。然而,我们在人工智能底层大模型的开发和应用方面还和美国的OpenAI存在一定的差距,并且这个差距正在越来越大,因此更需要加快推进自主创新和核心技术的突破。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

人工智能底层大模型是指利用大量的数据和计算资源,通过深度学习等方法,构建出具有强大的泛化能力和智能表现的模型,如 GPT-4、BERT 等。这些模型可以在多个领域和任务中实现高效的迁移学习和微调,提供更加智能和人性化的服务和解决方案。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

人工智能底层大模型的发展和应用,对于中国的国家安全、经济发展和社会进步,具有重要的战略意义。一方面,人工智能底层大模型可以提升中国在人工智能领域的国际竞争力和话语权,增强中国的科技创新能力和软实力,为维护国家主权和利益提供有力的支撑。另一方面,人工智能底层大模型可以促进中国的产业升级和转型,为各行各业提供更加智能化、高效化和便捷化的服务和产品,为提高人民生活质量和社会福祉创造更多的价值。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

因此,中国应该努力发展自己的人工智能底层大模型,加强基础研究和应用创新,培养更多的人才和团队,建立更加开放和协作的生态系统,防范和应对可能的风险和挑战,推动人工智能的健康和可持续发展,为构建人类命运共同体贡献中国智慧和中国方案。文章源自 吾爱分享 吾爱分享网-https://www.wuaishare.cn/3759.html

相关推荐:AI进化:一场没有硝烟的战争

吾爱分享

发表评论