随着大模型快速的提升，AI应用也逐渐成熟。过去一年，在很多人还在琢磨能用AI来干啥的时候，已经有不少人靠着AI产品和信息差赚到了“真金白银”。不过，在一个个看似“钱途光明”的项目里，有些引发了伦理争议，有些是利用噱头炒作的“伪概念”，还有些，则是实打实的骗局。

　　2024年，社媒平台上用AI制作的内容明显增多。“小猫张嘴唱歌”“甄嬛机关枪扫射四郎”……AI生成内容成为当下最火的自媒体赛道之一。有些账号通过StableDiffusion、midjourney等工具生成动漫形象，配上文案，便可收获大批粉丝关注，继而通过商务推广或橱窗带货变现。例如，迅速涨粉的“人间清醒柒奶奶”等账号，成为了许多网友的心灵导师与情绪出口。

　　值得一提的是，有些社媒平台开始检测内容是由AIGC生成，判定并添加“疑似包含AI创作”的标签；然而，由于识别难度逐渐加大，部分AI作品和账号依然可以“逃脱”检测。一位网友声称自己在小红书上通过账户管理软件同时操控1327个AI美女账号，竟然没有一个被识别出来。如今，很多AI账号依然受追捧，有用户直言：“只要好看就可以，难道那些真人博主就长得和照片一模一样？既然不真实，AI又有什么所谓？”可惜的是，“AI数字人”成为了某些人的致富手段。

　　然而，这其中隐匿的风险不可以小看。AI换脸技术的广泛应用，使得冒充名人进行带货的现象频繁出现，严重影响了公众的信任。国家传染病医学中心医生张文宏曾多次表示，短视频平台上存在大量使用AI合成其脸与声音的视频，涉及借助名人帮助推广各种类型的产品。甚至一位江西的老年女性因相信一段假冒名人的借钱视频，险些被骗走200万元。

　　随着视频生成技术的持续不断的发展，Youtube等平台上的内容将可能变得愈发“真假难辨”。这对平台内容监管工作提出了巨大挑战，未来的监督管理的机构需提升技术防范，即使在全世界内，已有60多个国家制定了AI治理政策。

　　2024年，AI技术的应用已经渗透到所有的领域，学习机、眼镜和玩具等产品纷纷打上“AI+”的标签。然而，限于技术成熟度，实际上大部分搭载AI的产品并未带来显著的使用者真实的体验提升。许多家电和玩具生命进入“AI时代”后，用户反映AI功能并没有切实解决他们的购买痛点。某品牌的“AI床垫”，尽管售价高达6.9万元，用户却认为其实际使用体验远未达到宣传的水平。

　　此外，AI玩具的价格因其“AI”标签也急剧上涨，许多厂商利用消费者的心理，抬高售价获取暴利。有研究表明，AI产品的利润率往往由其搭载的AI方案决定，而这些方案的成本实际并不高。市面上的AI玩具大多只具备简单的对话功能，缺乏线. AI培训课，“小白”最好“割”？

　　随着AI技术的蓬勃发展，不少培训机构开始推出与其相关的线上课程，价格普遍在千元以上。一些课程甚至被玩家们称为“割韭菜”的黑洞，谣言层出不穷，许多网友反映对此类付费课程内容的质疑。部分机构仅仅是将网上的免费信息整合，借助高价收费来获取利润，而对真心渴望学习的“小白”用户而言，这种信息的不对称让他们备感无奈。

　　在AI领域，不少公司利用新技术诈骗融资，舆论对此感到愤怒。2024年，一家名为“AllHere”的美国AI教育科技公司创始人因涉嫌证券欺诈逃亡，另一家名为“极目银河”的勇于探索商业模式的公司则因财务造假引发极大争议。一些投入资金的人在盲目追逐新兴大模型项目时，常常忽略了对企业真实的情况的深入考察，从而受到罚款，无形中造成了行业的全面信任危机。