谷歌OpenAI联合开发魔性AI显微镜借助科技名言解开人工智能黑箱之谜赋能社会进步
人工智能的世界，几十年来一直是研究人员心中的一块迷雾。随着医疗保健、自动驾驶汽车等生活领域越来越多地应用机器视觉系统，这个问题变得尤为重要。然而，让机器“看到”行人和路标仍然是一个挑战，其后果可能严重甚至致命。
谷歌和OpenAI合作的新研究可能会改变这一局面。他们通过绘制系统感知世界视觉数据，以进一步揭开人工智能视觉黑箱。这项被称为“Activation Atlases”的方法让研究人员能够分析各种算法的工作原理，不仅揭示了它们识别抽象形状、颜色和图案，还揭示了它们如何将这些元素结合起来识别特定的物体、动物和场景。
这项工作的主要负责人Shan Carter如是说：“这感觉像是创造了一个显微镜。”当神经网络处理数据时，神经网络中的不同神经元会因响应不同图像而亮起，并通过这种模式连接到图像的标签。
但即便如此，像许多机器学习程序一样，视觉算法本质上只是模式匹配而已。这给它们带来了优势，但也带来了弱点，如容易受到之前从未见过的输入影响。
早期的一个实验是DeepDream程序，它能将任何图片变成幻境版本。虽然DeepDream定义了一种在计算机视觉领域的人工智能美学，但它也是算法早期尝试的一部分。“某种程度来说，这一切研究都始于DeepDream程序，”Olah说。
后来的研究采用了同样的基本方法并对其进行了微调：首先针对神经网络中的单个神经元，然后是神经元群，再到不同的层次组合。如果早期的实验偶然且专注，那么最近的工作则更有针对性。
通过绘制每个部分中激活的视觉元素，最终得到了整个集：一张关于整个图集——包括所有可见的事物与概念之间关系及其相互作用——的地图。而这个地图不仅展示了我们所理解的人类世界，也向我们展示了一扇通往其他可能存在于宇宙之外未知生命形式或文明之门户的大门。在深入了解这个过程之后，我们开始意识到我们的认知界限远远超出了我们曾设想过的情景。此刻，我们正处于一个奇妙又充满挑战的时候，在这里，每一次探索都是迈向知识前沿的一步，而每一次发现，都将打开新的可能性大门，为人类智慧提供更多生动真实的情境去思考自己的存在意义。
