Anthropic警告小型AI模型或可自我复制

Anthropic 警告，小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等 IoT 设备的新型自我复制恶意软件，且更难被清除。该公司称，到明年小型模型或能在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。 Anthropic 同时表示，其近期进行的一项实验显示，要让这种 AI 恶意软件复制器真正实现仍面临重大挑战，因此上述判断需要有所保留。 该警告由 Anthropic 提出，其依据是公司自身的实验，相关风险尚未在真实环境中得到验证。

AI 根据报道生成 · 4 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。