Monthly Archives: February 2023

一、它答对了一个问题，不等于下次回答同一个问题也能答对。因为目前的那些机器人的输出都有随机性。(反过来说，第一次答错，第二次答对也是有可能的。） ​ ​二、答对一个问题，不等于以后类似的问题也能答对。举个例子，它能做两位数加法，不等于就能做对八位数加法。因为那些机器人的工作原理不是对背后原理的理解。 ​ ​三、机器人的强项是输出语法完美用词得当的文字。包括中文等英语之外的大语种。但是细微的错误往往夹杂在流利的行文以及部分正确的信息之间。如果人不仔细看，或者是人不熟悉的领域，错误会很难发现。简单来说，就是经常似是而非。 四、回答事实性问题时，那些机器人经常会捏造一些不存在、但是听上去合理的东西。这个现象业内叫做hallucination。这个问题还没有解决。 五、所以，就当前而言，那些机器人的最直接安全的应用场景是帮人写一些重复性强、对事实和正确性没有严格要求、且人可以把关的文字，比如某些文档的草稿，或者作为智能参谋给人提供一些灵感。其它应用，都带有“赌博”或者“图个新鲜而已”的性质。 ​ ​以上五点针对ChatGPT这种没有搜索引擎或其他外部知识库的独立聊天机器人。如果是Bing等即将发布的搜索引擎增强版的机器人，在回答事实性问题上也许能稍微强一些，尤其是可以知道训练数据集之后发生的事情和知识，但是也无法避免错误的发生。

This book is the autobiography of Prof. Shing-Tung Yau, a world-famous mathematician known for his contribution to geometry, particularly the branch of geometry called geometric analysis, which he pioneered. Prof. Yau is among the handful of most influential mathematicians alive, … Continue reading →