慢雾创始人余弦在个人X上贴出了一起离奇的案例–某用户的钱包被AI给「黑」了！
简单来下整个流程：
用户想用ChatGPT来构建一个pump.fun的辅助交易机器人。所以他就向ChatGPT提出了具体产品需求，然后收到了ChatGPT撰写的一段代码。后续该用户就使用了ChatGPT生成的代码。
但是在ChatGPT生成的代码里面却被植入了钓鱼代码，生成的代码向一个钓鱼性质的API网站发送了地址和密钥。也因此造成了不小的损失。
其实这种事情在AI上面并不少见。从AI的工作原理可以知道，初期的AI是需要收集大量的素材资料，如果在这个过程中钓鱼代码就伪装成正常代码，在AI没有接触到这类内容的时候，就会被判定为正常代码，如果后续有人想要这类代码的话，AI就会把伪装成正常代码的代码输出给用户。
最最常见的例子，就是AI绘图刚出来的时候，各种无语的图片，包括一些诸如4杯25度的水加在一起是100度的答案。都是因为数据收集+语义理解上出现的问题。
所以，在当下AI比较盛行的时代，学会使用AI是能够帮助我们节省很多工作的时间并且提高效率，但在实际工作过程中，还不能把全部权限下放给AI，依然需要有自己的判断能力。
原创文章，作者：爱运营，如若转载，请注明出处：https://www.iyunying.org/operate/ai/344792.html
