Anthropic首席执行官Dario Amodei表示，人类比预期更接近人工智能模型与人类一样聪明和具有能力的地方。
Amodei还担心人类水平的人工智能的潜在影响。
阿莫迪警告说：“强大的事物可以做好事，也可以做坏事，强大的力量带来巨大的责任。”
事实上，阿莫迪认为，通用人工智能可能在未来三年内超越人类能力，这是一种技术变革，无论我们是否做好准备，都将带来前所未有的机遇和风险。
阿莫迪说：“如果你只关注这些能力的增长速度，你确实会认为我们将在2026年或2027年达到目标。”告诉采访者莱克斯·弗里德曼。他说，这是假设没有出现重大的技术障碍。
当然，这是有问题的：首席执行官表示，人工智能可能会变成邪恶，并导致潜在的灾难性事件。
他还强调了对高人类智力和不愿从事有害行为之间长期存在的“相关性”的担忧。大脑和相对利他主义之间的相关性在历史上保护了人类免受毁灭。
他说：“如果我看看今天在世界上做过非常糟糕的事情的人，人类一直受到这样一个事实的保护，即真正聪明、受过良好教育的人和想做真正可怕事情的人之间的重叠通常很小。”“我担心的是，作为一个更聪明的智能体，人工智能可能会打破这种相关性。”。
他补充道：“最大的规模是我所说的网络、生物、放射性、核等领域的灾难性滥用。这些事情可能会伤害甚至杀死数千甚至数百万人，”他说。
但从本质上讲，人类的邪恶是双向的。Amodei认为，作为一种新的智能形式，人工智能模型可能不受统治人类行为的道德和社会约束的约束，如监禁时间、社会排斥和处决。
他认为，未对齐的人工智能模型可能缺乏人类多年社交、表现出同理心或分享道德价值观所固有的对造成伤害的厌恶。对于AI来说，没有损失的风险。
硬币的另一面。人工智能系统可能会被恶意行为者操纵或误导——那些使用人工智能打破阿莫迪提到的相关性的人。
如果一个邪恶的人利用训练数据、算法甚至即时工程中的漏洞，人工智能模型可以在不知不觉中执行邪恶的行为。这从生成裸体（绕过固有的审查规则）到潜在的灾难性行为（例如，想象一下越狱一个处理核代码的人工智能）。
AGI或通用人工智能是一种状态，在这种状态下，人工智能在所有领域都达到了人类的能力，使其能够像人类一样理解世界、适应和改进。下一阶段，ASI或人工超级智能，意味着机器通常会超越人类的能力。
为了达到这样的熟练程度，模型需要扩展，通过在图表中分析人工智能的缩放规律，可以更好地理解能力和资源之间的关系——模型越强大，需要的计算和数据就越多。
