格子 AI 编程入门
第 3 章

AI 能做什么、不能做什么

知道了 AI 怎么工作之后,最重要的一件事就是:建立正确的预期。期望太高会失望,期望太低会错过好东西。

知道了 AI 怎么工作之后,最重要的一件事就是:建立正确的预期。期望太高会失望,期望太低会错过好东西。

它能做的事情(很好)

1. 生成和改写文字

这是它最擅长的。写邮件、做总结、翻译、改语气、润色文案——这些对 AI 来说就像呼吸一样自然。

更实用的是:你可以把它当做一个"能听懂人话的搜索引擎"。问它"怎么用 Excel 做数据透视表",它不会给你十个蓝色链接,而是直接给你一步步操作说明。

2. 写代码

对我们这门课来说,这是关键能力。你告诉它"做一个能记录待办事项的网页",它能给你写出完整的 HTML、CSS 和 JavaScript 代码。

它不一定一次就写对,但改一两次通常就能用了。后面几章我们会专门练这个。

3. 解释复杂概念

遇到一个不懂的术语?让它"用小学生能懂的方式解释一下"。它能分层级解释——从小学生到专业人士。

4. 头脑风暴和整理思路

不知道从哪开始?把一堆混乱的想法扔给它,让它帮你梳理、分类、列出优先级。

它能做的事情(凑合,需要你检查)

1. 数学和逻辑

大语言模型本质上不是计算器。它会算错简单的加减法,也会在推理题上翻车。

不过现在的工具越来越聪明了——有些模型会"偷偷用计算器"(内部调用代码来算),所以正确率在提高。但你仍然要留个心眼。

2. 常识推理

比如"把一个西瓜塞进冰箱需要几步"。它通常能答出来,但偶尔会漏掉"先把冰箱里的东西挪一挪"这种人类自动会想到的步骤。

它不能做的事情

1. 知道自己不知道

这是它最大的弱点。当它不知道答案时,它不会说"我不知道"——它会编一个。

判断方法:如果答案看起来太完美、太顺畅、但少了具体细节(人名、数字、日期),警惕一下。

2. 获取实时信息

AI 的知识有截止日期。比如 2024 年底训练完的模型,不知道 2025 年的事情。有些工具提供了联网搜索功能,但那是在 AI 之外额外加的能力,不是模型本身的能力。

3. 真正理解你的意图

它读的是文字模式,不是你的心。你说"帮我写个程序",它不知道你到底要桌面软件还是网页,不知道你的技术水平,不知道你的操作系统。

所以你得说得具体。模糊的需求 = 模糊的结果。

4. 保持长期记忆

每次对话基本是独立的。你可以让它"记住"一些事情在本次对话里,但下次打开新对话,它就不认识你了。

有些工具提供了"记忆"功能(比如 ChatGPT 可以记住你的偏好),但这是产品功能,不是模型能力。

编程领域的特别说明

AI 写代码有很明显的长板短板:

长板:

短板:

对于我们这门课的目标——做个人小工具、小网页——AI 的能力绰绰有余。短板基本碰不到。

本章小结:什么时候该信 AI,什么时候该留个心眼

场景可信度建议
文字处理(总结、翻译、改写)★★★★★大胆用
写常见代码★★★★☆用了之后跑一下试试
解释概念★★★★☆重要概念交叉验证
做算术★★★☆☆自己再算一遍
给建议/观点★★★☆☆当参考,不当结论
实时信息(天气、股价、新闻)★★☆☆☆用专门的工具查
你专业领域内的问题★★☆☆☆你最懂的领域,AI 未必比你懂