人工智能被誉为新质生产力，是因为其在国民经济及产业体系中能扩大效能、提高质量;在个人的工作生活中能够辅助我们完成一些简单却耗时的工作内容，提高效率。
但AI技术自打问世起就一直与黄色内容、诈骗手段纠缠不清，有公司为了流量展示“庸俗”的擦边内容，更有个人为了赚钱选择进入低俗的黄色产业。
AI一键去衣只要白菜价，制造七千余张被逮捕
昨日，央视新闻 CCTV13《法治在线》曝光了一起“AI 脱衣”案件，北京一男子白某某在社交平台上刊载广告，声称可提供“一键去衣”服务，单价为“1 块 5 一张”，警方根据其留下的账号线索顺藤摸瓜抓获了嫌疑人。
北京市海淀区人民检察院检察官助理 郭树正：白某某用的这款人工智能软件，能很快对被害人的图片“一键去衣”，基本上几秒钟、几分钟就能批量生成相应的图片。他在QQ上向351个人贩卖过相关图片，图片数量将近7000张。
据悉，该男子在 2023 年 6 月至 8 月利用 Stable Diffusion 框架配合特定 AI 模型，在社交平台公然发布广告，并利用微信 / QQ 等聊天工具进行交流转账，将他人提供的女明星、女同事、女同学照片制作为裸体不雅照片。
Stable Diffusion是一种基于深度学习的图像生成模型，它能够从零开始，创造出令人惊叹的数字艺术作品。更值得一提的是，Stable Diffusion 极大地降低了创作的门槛。无论是专业的设计师还是初学者，都能够通过它快速实现自己的创意构想。
而这，本是用来帮助内容创作者提高效率的工具，却被用来制造违法的低俗内容。除此之外，还有不少AI软件被用来进行AI换脸、AI合成照片、视频从而实施诈骗，这种行为实在是对不起“新质生产力”的美誉。
如果说个人对于AI技术的滥用影响的是其他人，那么当AI产品也靠搞黄色得来的用户进行赚钱时，影响的就是整个行业的风气了。
360 AI发布会一键露胸功能被嘲“庸俗”
日前，周鸿祎主持的360 AI新品发布会因和英伟达创始人黄仁勋在中国台湾发的AI发布会日期接近，于是便被网友做成了长图来进行对比。
永远穿黑色皮衣的英伟达黄仁勋在 Computex 2024 上发表演讲，宣布了下一代 GPU 架构 Rubin，并展示了 Nvidia 的 AI 路线图，老黄一口气解密三代 GPU，突破摩尔定律，量产 Blackwell 解决 ChatGPT 全球耗电难题，预示着算力即将迎来“大爆炸”，新的产业革命即将揭开序幕，开启实体 AI 新时代。
360创始人周鸿祎则是周鸿祎在会上演示了AI作图的「局部重绘」功能。周鸿祎让后台操作者对两张美女图片勾选了局部(胸)，输入「性感」的修改指令，并称“这个功能只有VIP才能使用，赶快去买我们的VIP帐号吧”。指令运行一会儿后，两张美女图片服装发生变化——原本衣服变成低胸装，美女的事业线跃然屏上。
有网友调侃到，黄仁勋带着英伟达，就像是班级里的学霸，一门心思搞研究，新技术一个接一个，让人眼花缭乱;而周鸿祎领导的360就像班上的宣传委员，总能把普通的作业包装得花里胡哨，让大家都能注意到。
不过这一点大家可能误会周鸿祎了，一直以来周鸿祎都在认真学习网红经济，试图通过自己帮助360进行更好的宣传。正巧黄仁勋在中国台湾发布会期间因为给一名女性在胸部签名而收获了很大一波流量，或许周鸿祎也是秉持着学习的心态才在自家360AI发布会上安排了这么一出「局部重绘」。
而周鸿祎也在近日对于网友批评360发布会和黄仁勋发布会相比太庸俗的观点进行了回应。周鸿祎称：“网上有人把我和老黄(黄仁勋)做了个对比，意思就是老黄开发布会多么高大上，然后我开发布会多么庸俗。我们的角色不一样，人家是世界排名第二的企业、人工智能的元老级人物，我们怎么能跟人比?再说大家干的事儿也不一样。他(黄仁勋)是做AI的基础设施，我们现在做的是AI的场景应用。我觉得没法直接做对比。如果真的直接做对比，那对我就太抬举了。”
不过，周鸿祎认为，最近看了苹果和微软的发布会，360的发布会还可以和这两家比一比。“因为微软和苹果干的事跟我一样，就是照片修改、音频分析、视频分析、AI搜索。AI再牛逼，最后到消费者这儿还得找场景。要AI的能力结合场景，结合应用才能被消费者所接受。”周鸿祎强调。
同时，周鸿祎还提出，“既然大家拿我和老黄做对比，对我如此厚爱，那我就斗胆把老黄的发布会认真分解、深刻分析一下，抽出一些要点跟大家分享，这样也可以多向老黄学习人家做发布会、做宣传、做产品、做技术的思路，看看我辈中人有谁能赶得上老黄。”
不过即便是和谁比较这都不重要，展示AI功能和场景有更好的示例，本质上还是试图利用擦边黄色内容来博取流量。对于一些AI公司来说，让产品出圈是尤为重要的事情，而对于个人来说只要能赚钱，低俗点也没关系。
AI很单纯，复杂的是人
AI公司在宣传产品时“博流量”的行为，折射出的是这些科技企业在创新道路上的浮躁和速成心理。OpenAI的流量怎么来的?因为ChatGPT的划时代发布;Meta的流量是怎么来的?因为Llama的开源给了无数开发者梦想的起点。
个人利用AI技术进行违法犯罪行为，折射出的是对行业认知不深和法律意识的淡薄。此前火爆的AI“复活”亲人同样是利用AI技术，但却体现出来科技发展对于人类个体的帮助，以及对市场需求敏锐的洞察力。
种种表现都说明了一个道理，AI很单纯，它只是一个工具，复杂的是使用工具的人。
科技旋涡认为，AI技术的合理利用能够为我们的生活带来便利和乐趣，但当它被滥用时，后果不堪设想。科技的发展必须伴随着严格的伦理审查和法律监管，每一个人也都应该提高警惕，保护好自己的个人信息，共同营造一个健康、安全的AI发展环境。
写在最后
今天的中国，有全世界数一数二庞大的市场，只要宣传到位躺着也能赚钱，但这并不意味着消费者永远不会进行比较。只有技术才是核心竞争力，AI 企业要赢得未来，必须回归技术和用户本身，认真搞研发，找到用户高阶需求，而不是只顾着迎合底层需求，玩流量。
在数字时代，我们每个人都是信息的生产者和消费者。AI则是人类的镜像，人们投喂给它什么，它就会像一潭有魔力的湖水，反射出人们自己的潜意识与欲望。面对AI这样发展中的技术，我们既要欣赏它带来的便利，也要警惕它可能带来的风险。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。