拜登总统最近签署了一项关于人工智能技术开发与应用的行政命令。
该命令要求人工智能公司提升透明度，但也存在一定的局限性。
白宫顾问本·布坎南在接受《内幕》杂志采访时表示：“科技已经取得了一定的进展。”
本问答基于与白宫科学技术政策办公室及拜登政府顾问本·布坎南的对话。
拜登总统于周一签署了一项新的行政命令，要求主要科技公司在开发人工智能模型和工具时提高透明度，并为技术的使用制定新规。这可能显得有些不足，也来得太晚。
这项广泛的行政命令涵盖了十多种人工智能及生成式人工智能的潜在应用，这些应用已经或将来可能直接影响人们的生活。例如，当人工智能技术被用于与住房、招聘甚至监禁相关的商业决策时。命令还要求从事人工智能工具开发的公司提升透明度。
去年由Meta、谷歌、微软、OpenAI等公司发布的所有大型语言模型和相关人工智能工具并不受该行政命令中所述的安全测试约束。由于门槛过高，目前大多数可用模型都未能满足拜登行政命令中要求的进一步透明度标准。尽管今年早些时候，所有主要科技公司已同意在人工智能工作中遵循责任和培训标准。
对于符合标准的公司，他们需要在向公众发布之前通知联邦政府，并分享安全测试结果。美国国家标准与技术研究所(National Institute of Standards and Technology)已被指示为此类测试制定“严格的标准”，包括测试生成人工智能工具的潜在风险，以指导用户防范生物武器的使用。例如，据《内幕》网站报道，Meta的Llama 2模型已经能够指导用户如何将炭疽武器化。
本·布坎南自2021年以来一直在拜登的白宫工作，最近担任人工智能特别顾问，他在接受《内幕》杂志8分钟的采访时表示：“这项技术已经有了一定的领先优势，但我认为我们很快就会迎头赶上。”
《内幕》杂志对布坎南的完整采访（经过编辑以便于阅读）如下：
在这项行政命令发布之前，你与大型科技公司的领导人进行了多少次交流？例如，我听说白宫与安德鲁·博斯沃思的沟通频繁，一个月几次。
我们与所有公司进行了高层次的对话，但并没有深入讨论CEO的问题。我们在公司内部进行了多次对话，讨论我们在7月份推出的自愿承诺。我想，自从7月份推出自愿承诺以来，没有人特别与安德鲁·博斯沃思进行过交流。但我们确实在这个层面和CEO层面进行了接触。从那以后，我们与一些公司进行了交谈，但更多的是关于自愿承诺，而不是关于《行政令》。
...(608 chars omitted)...
这是一个巨大的数字。如果有人，假设，给你联邦机构标记的训练数据会发生什么？那么流程是怎样的呢？是不是一切都停止了，公司陷入了困境？
其中很多仍在开发中。致各部门，我们在EO中列出了这里的行进方向。
你可以想象有某种法律权威会发挥作用，这取决于旗帜是什么。只是假设，如果一个系统存在核风险，你就会牵连到原子能法之类的。所以这是关于获得正确的信息，然后让有关当局承担责任。
你也可以想象这样一个世界，国会通过立法，建立在我们正在做的事情的基础上，并建立一个许可制度。很多国会议员都谈到了这个问题。我们不会在这个问题上表态。但我们在这里所做的是为美国政府设定一个方向，在推出这些系统之前，他们需要知道这些系统是安全的、可靠的、值得信赖的。
很多命令是这些不同机构采取行动的指令。他们需要多长时间来制定这些标准？
根据国防生产法案的规定，这是90天。这些公司已经进行了很多红队测试。标准的发展可能比那要长一点，但是在《行政命令》中有一些关于标准的临时指导，这在很大程度上反映了我们在自愿承诺中达成的协议，说这些是你必须为之红队的事情。
要求的透明度，仅仅是未来的模型还是已经推出的当前模型？它是否具有追溯效力？
自愿承诺适用于未来的模式。这很难做到，就像你想象的那样，很难对一个已经存在的模型进行发布前的红队测试。
你是否认为人工智能正处于一个炒作周期，每个人都对它的意义反应过度？考虑到现在有这么多模型，它们已经有多强大，等等，各地都有政府监管机构我们现在在技术上有点落后吗？
关于你应该投资什么，我不会对炒作发表评论，但我认为，从政府的角度来看，我们认为这里存在真正的机会，也存在真正的风险。如果我们认为这一切将在一周内消失，我们就不会采取这种加速的全面行动。这是总统及其团队的首要任务。
就落后于技术方面而言。技术方面有一些领先优势，但我认为我们很快就赶上了。
我要指出的一点是，我们从七国集团(G7)那里获得了有史以来第一个人工智能国际行为准则的协议，该准则建立在七国集团(G7)所有七个政府签署的自愿承诺的基础上。美国正在与盟国和伙伴合作，行动非常迅速。
你使用生成式人工智能吗，本？你办公室有人用吗？
b.b.:据我所知，我们这里的系统上没有ChatGPT，但我们所有人每天都在日常生活中使用人工智能。
有什么建议或见解要分享吗？联系Kali Hays: khays@insider.com，通过安全消息应用程序Signal: 949-280-0267，或通过DM on X: @hayskali。使用非工作设备进行接触。
阅读商业内幕的原文
本文来自作者[是横波吖]投稿，不代表时能五金立场，如若转载，请注明出处：https://xkxky.cn/life/202507-2368.html
评论列表（4条）
我是时能五金的签约作者“是横波吖”！
希望本篇文章《白宫人工智能顾问称美国在追赶技术进步，拜登新行政命令推动大型AI模型透明化》能对你有所帮助！
本站[时能五金]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 拜登总统最近签署了一项关于人工智能技术开发与应用的行政命令。 该命令要求人工智能公司提升透明度，但也存在一定的局限性。...