谷歌OpenAI联合创作的魔性AI显微镜揭开人工智能神秘面纱描绘科技画卷社会篇
人工智能的世界，几十年来一直是研究人员心中的一片迷雾。随着医疗保健、自动驾驶汽车等生活领域越来越多地应用机器视觉系统，这个问题变得尤为紧迫。这些系统直接关系到人的生命安全。
然而，让机器眼睛真正“看到”行人和路标，仍然是一个挑战。如果做不到，这可能会带来严重甚至致命的后果。
谷歌和OpenAI合作的新研究有望改变这一局面，他们通过绘制一些系统感知世界的视觉数据，试图打开人工智能视觉的黑箱。这项被称为“Activation Atlases”的方法让研究人员可以分析各种算法的工作原理，不仅揭示了它们识别抽象形状、颜色和图案，还揭示了它们如何将这些元素结合起来识别特定的物体、动物和场景，这在计算机视觉领域是一次重要的打开黑箱尝试。
这项工作主要负责人Shan Carter如是说：“这感觉像是创造了一个魔性AI显微镜。”
当神经网络处理数据时，它们中的不同神经元会因响应不同图像而亮起，并通过这种模式连接到图像的标签。正是通过这种关联，神经网络才能“学习”事物的样子。经过训练后，用户就可以向它展示以前从未见过的图片，并且能激活神经元，然后将用户输入与特定类别相匹配。
但即使是在如此复杂的情况下，对于人类来说理解这个过程仍然充满挑战。在2010年初，当研究人员发现神经网络在处理视觉任务方面潜力巨大时，他们开始尝试弄清楚神经网络是如何做到的。
早期的一个实验就是DeepDream程序，它能将任何图片变成幻境版本。DeepDream虽然只是算法早期尝试，但它定义了一种新的艺术风格——人工智能美学。而现在，一些最近的小步骤已经对其进行了微调：首先针对单个神经元，再至于群体，然后是不同层级组合中每个部分激活后的结果。这不仅揭开了算法内部运作方式，更深入地探索了解何为认知过程。
滚动鼠标，您可以看到不同的概念如何在不同的部分响应，以及这些概念如何聚集在一起。你还可以看到不同层代表信息类型的地方，从较低级别较抽象的地形形状到高级别可识别的事物概念。此外，你还能观察到分类间共享或差异化反应，比如潜水管与潜水员之间共享某些共同点，但又有明显区分，如蒸汽机车与潜水员之间奇妙相似之处，而实际上却常常导致误判，因为蒸汽机车光滑金属曲线看起来很像空气罐，使得对于那些没有指导学习而自学的人工智能来说成为一个难以分辨的问题，即便到了今天，我们也只能惊叹于这样一台工具竟然能够用自己独有的方式理解我们所不知道的事情，以一种比我们更接近真实世界的手段去思考整个宇宙。但尽管如此，该团队最终找到了原因：这是因为蒸汽机车光滑金属曲线在视觉上类似于潜水员空气罐，因此，对于神经网络来说，这是一个明显区分带水肺潜水员和普通潜水员两个类别上的区分点，为节省时间借用其他地方已有的知识储备以提高准确度。而对于怀疑论者来说，有时候这样的例子反映出这些系统背后的局限性，而他们容易受到诡计影响，如精心选择像素投射进图像中足以引起错误分类，所以对于Carter, Olah 和其他科学家们来说，无论是否令人兴奋，“Activation Atlases”提供给我们的关于AI内心活动的大门，是推动整个AI发展领域前进的一把钥匙。一旦我们了解得更好，我们就能够更有效地构建它们并检查其准确性，同时不断探索未知问题的心灵之窗，每一次迈进都让我们走得更加靠近那个答案——AI究竟是什么样子的？
