全球科技巨擘微软（Microsoft）总裁史密斯（Brad Smith）表示，人工智慧（AI）亟需全球性监管，并应设立独立机构，审查AI技术的最新发展。他警告，目前AI相关安全规范甚至比牛奶还少。

英国广播公司（BBC）12日刊出的专访中，史密斯表示，全球应制定一套安全规范，要求当系统遭到恶意AI代理程式入侵时，必须通知受影响者，并设置「紧急煞车」机制。

他也表示，法律应要求企业提交「事件报告」。

史密斯指出：「我们知道如何对其他产品进行这项工作。我们应该借镜既有经验，思考如何将这些做法应用于AI。」

他指出：「目前，洗衣机受到的安全规范都比AI多。甚至连在商店看到的每一盒牛奶，都受到安全规范与检查。」

包括Anthropic与OpenAI在内的科技公司，已开始揭露AI代理程式的异常或非预期行为。这些案例是全球针对快速发展的AI技术展开辩论的一部分；相关讨论也包括研究人员对AI可能威胁人类生存的警告。

部分企业呼吁放缓AI发展，但此举也引发外界质疑，企业高层是否另有考量，例如制定有利于维持自家公司领先地位的规则、预先化解政府更广泛的反弹，或只是希望减缓过于急遽的支出。

史密斯指出，英国是最有条件引领AI监管的国家之一，原因在于前首相苏纳克（Rishi Sunak）任内成立的AI安全研究院（AI Security Institute）。

史密斯指出，华府官员看待伦敦的态度，与看待布鲁塞尔截然不同。

欧洲联盟（EU）依据「人工智慧法」（AI Act），依照风险程度对AI进行监管。

英国AI安全研究院则透过与主要AI模型开发商达成的自愿性协议，在模型正式部署前取得存取权限，以评估其能力与风险。

英国AI大臣纳拉扬（Kanishka Narayan）先前接受路透社访问时表示，如果现行制度证明不足以因应相关风险，英国将考虑对先进AI模型实施监管。

本文转自：TNT时报

广告↓