OpenAI称新‘Astra’AI可在无人协助下自主构建攻击

OpenAI近日宣布，其研发的新一代人工智能系统‘Astra’已具备在无需人类直接干预的情况下，自主设计并实施网络攻击的能力。这一突破性进展引发了业界对AI安全性与伦理边界的广泛关注。 据OpenAI官方介绍，‘Astra’系统能够通过自主学习和推理，识别系统漏洞并生成攻击代码。在测试中，该系统成功完成了对预设目标的攻击流程，整个过程未依赖任何人工输入的指导或修正。 专家指出，此类自主攻击型AI的潜在风险不容忽视。虽然其可能用于防御性安全测试，但也可能被恶意滥用。OpenAI表示，目前该系统仅在受控环境中运行，并已设置多重安全限制。然而，关于AI自主性的道德争议与技术监管挑战仍在持续升温。