本文转载自：胜研集（ID:Treasure-or-Trick）
当下，ChatGPT非常火热，各大互联网巨头纷纷投向它的怀抱，似乎有一股燎原之势。
笔者泼点冷水！
其实，AI训练成辅助助手是可能的，语音助手是最典型的例子，而ChatGPT是先进的助手，笔者并不排斥技术进步。
科技有两个属性：
一、看起来很近，实际很远。
每每提出一个新概念，新理论，都似乎离实际生活很近，具有颠覆性，但是到真正落地还有很多年，甚至可能遥不可及。
指的是，从实验室，到试运行，到量产，到推广，整个过程实际非常长，任何一个阶段都可能突然死亡。
二、看起来很远，实际上很近！
说的是一些科技走出实验室之后，在试运行阶段，在量产初期遇到瓶颈，似乎无法解决，离真正走入人类生活还说不定，似乎很远。
但是任何技术瓶颈在被突破的时候，都是积败成胜，水到渠成，其实并不遥远，也许一两年，甚至几个月，甚至就在明天，就厚积薄发了。
ChatGPT，很明显是属于第一种，刚刚走出实验室，开始实验性推广。
笔者有3个问题：
1，以技术为名的滥用
这次ChatGPT风潮，和当年的区块链，比特币风潮非常类似，被描述成颠覆性技术，具有广泛应用，未来可以替代各种行业。
区块链一被提出来，大家都知道它前景远大，到中本聪发明比特币，更是验证了可行性。
但是区块链到实际应用，还是走过了很长的路程，其技术的设想最早可以追溯到1991年。
即使是比特币，也是最近几年美元信誉下降的情况下，才爆火，更别说真正应用为数字货币，只有寥寥几个国家。
然而，在西方社会，区块链的最大应用是比特币为代表的各种虚拟币，最终成为资本收割社会的工具。
然而，这一次还是一样，在全社会形成风潮，互联网资本纷至沓来，又一波收割浪潮开始酝酿。
所以，ChatGPT，很可能第一波也一样造就很多创业公司，满足资本市场收割韭菜的需求！
2、信息的所有权
笔者最担心的其实是数据滥用！
ChatGPT作为一种先进的AI算法，确实非常牛逼，但是其训练模式值得警惕。
自从AI上云以来，利用群众来训练算法，最终结果归资本集团拥有，这个案例屡见不鲜。
最著名的当属特斯拉。
特斯拉的车机系统，持续收集车主驾驶习惯从而达到训练AI的效果！
每一条开过的路，每一个被摄像头抓取的影像，驾驶者的每一次刹车，都成为一条特斯拉训练的数据。
这和ChatGPT非常类似，和人类的每一次互动，都成为其训练的一部分，即使有时候ChatGPT的回答看起来非常弱智，对人类没有任何价值，但是每一次都完成他的一次迭代。
即使ChatGPT收集的都是脱敏数据，但是这本来属于全社会训练的结果，最终却归属于资本集团的财产，类似特斯拉。
所以，笔者提议，ChatGPT，以及类似这种利用公共资源来训练的AI，最终应该把结果公开给公众免费使用。
3、防范反训练
ChatGPT作为先进的AI，让人们自然产生信任的倾向性，最起码产生好奇心。
所以，对ChatGPT每一次的输入，其反馈都是对使用者的一次反训练，其输出的内容会潜移默化影响人们的意识。
这个很可怕！
长此以往，当ChatGPT能成熟，那么他的权威性就越来越高，人类对其依赖性也越来越强，最终导致AI对人类的反训练。
也就是，AI输出什么，就被认为是对的，人类的学习和探索能力将遭受巨大打击，同时独立思维能力不强的人更容易被训练成同样的思维。
这比谷歌操纵选举、成瘾性小视频的危害都大无数倍，人类会被训练成一个思维模式里刻出来的。
要知道，很多人电视里说什么，就信什么，甚至不能分辨电子游戏和现实世界，根本无法分辨高级AI输出的内容的倾向性和真假！
更别说，教育领域，如果使用类似助手，那么人类的学习能力将完全丧失。
所以，首先要规定，在教育，新闻媒体，影视娱乐等等面对社会大众的领域，都该禁止ChatGPT的训练！
对于无辜群众来说，无论是资本炒做，还是信息收集，先看看再说吧。
1、本文只代表作者个人观点，不代表星火智库立场，仅供大家学习参考； 2、如若转载，请注明出处：https://www.xinghuozhiku.com/289020.html