IT之家 6 月 8 日消息，美国大数据分析与人工智能软件公司 Palantir 首席执行官亚历克斯・卡普并不认同当下盛行的“词元刷满（tokenmaxxing）”风潮。卡普向来直言不讳，他将人们无节制滥用人工智能的心态比作沉迷色情内容。 在 Palantir 人工智能平台十周年大会的场外，卡普接受 TBPN 直播采访、谈及公司对词元用量的管控时表示：“我们内部私下会把这种行为称作‘精神沉溺式滥用’，说白了就和自慰成瘾一样。不得不说，有些人整天沉溺其中，俨然染上了类似色情成瘾的毛病。” IT之家注意到，卡普的观点，与公司首席技术官沙亚姆・桑卡上月在财报电话会议上对分析师的表态不谋而合。这家数据分析与科技企业一直将自身定位为“拒绝粗制滥造的阵地”。桑卡认为，企业必须明白：单纯依靠低成本人工智能无法创造更多价值，除非拥有像 Palantir 人工智能平台（AIP）这类能为 AI 模型筑牢落地根基的系统。 桑卡称：“词元用量越多，产出内容就越粗劣。当企业愈发依赖这种大众化的智能能力时，就越需要一套体系来规避经济损失，进而真正挖掘出商业价值。” 词元是大语言模型的基础单元，模型会将词汇拆解为数字单元，一个词元大约对应四分之三个单词。各大 AI 企业与模型服务商，通常按照词元消耗量和所用模型来计费。 近几周，硅谷及科技圈不少人开始强烈反对“词元刷满（tokenmaxxing）”的风气。此前，随着智能体技术不断迭代、能力持续提升，行业一度盛行无节制使用 AI 的做法。 优步首席运营官安德鲁・麦克唐纳也道出了业内的顾虑。他表示，这家网约车企业始终无法看出，不断攀升的 AI 成本和提升效率等实际收益之间存在关联。谈及麦克唐纳的言论，卡普称，就在不久前，公开质疑 AI 还被视作不明智的举动。 卡普回忆初次接触行业舆论时说道：“最开始，大家只是觉得 AI 或许具备真正价值。直到大约两周前，业内人才猛然惊醒：AI 的确是实打实的新技术，可实际应用却收效甚微。但没人敢公开说出这点，生怕被人当成外行。” 卡普认为，如今所有人都承认 AI 技术真实可行，但围绕这项技术产生的诸多问题 —— 包括竞争对手试图打造对标 Palantir 本体知识库的产品等，归根结底都取决于行业认知与专业判断力。 他表示：“AI 相关技术可以规模化落地，也能创造可观价值，但最终大多会沦为同质化的通用工具。可如何精准定位企业亟待解决的业务难题，这种判断力是无法被规模化复制的。” 卡普坦言，AI 模型确实能出色解决一部分问题。他举例道，比如输入指令“撰写一份国内生产总值增长报告”，这类任务 AI 就能轻松完成。 但面对更为复杂的难题，仅靠 AI 本身远远不够。 “比如这类需求：‘我要优化油气开采的专属工艺，既要合法合规、恪守道德准则，还要降低生产成本。我想重塑所在行业的供应链，无论领域是军工、包装制造还是汽车产业。’”卡普解释道，“这类工作需要一套严谨、精准且持续运转的业务流程。大语言模型可以为其赋能，但绝无法取而代之。”
法庭文件显示，马斯克旗下人工智能公司xAI已向法院提交申请，要求四名原告在一项涉及Grok深度伪造色情图像的拟议集体诉讼中，以真实姓名提起诉讼。原告方面认为，公开他们的身份可能会加剧骚扰风险，并加重宣誓陈述中所述的个人后果。 法庭文件显示，原告目前登记为南卡罗来纳州 Doe、南卡罗来纳州 Roe、新泽西州 Doe 和俄亥俄州 Doe，这些原告会向 xAI披露自身真实身份，但在公开案件卷宗中继续使用上述化名。 xAI的律师辩称，民事诉讼通常要求明确列明被告，且公众有理由了解是谁在对公司提起诉讼。他们还指出，原告并未证明存在具体威胁进一步损害的情况，并提到法院正在对争议图像进行封存处理。 xAI的代理律师在5月15日提交的法律文书中写道：“抛开深度伪造图片本身不谈（该图片将继续封存不予公开），在不披露原图的前提下，仅对外说明有人制作了针对南卡罗来纳州匿名原告的深度伪造图像，这件事本身并不会带来名誉污损。因此，本案并不涉及法律上历来认定、需要采用化名应诉的重大隐私权益。” 原告方提交了书面宣誓证词，详述自身遭受的精神损害，并表示倘若被迫使用真实姓名参与诉讼，或将撤诉。相关卷宗同时载明，涉案争议图片并未附入公开庭审文件。 一名原告表示，一张被指操纵的图片将他“裸露成暴露的比基尼”，并以“我绝不会公开分享的方式”展示了他的身体。该声明还补充道：“当我想到那个请Grok制作深度伪造视频的人对这张照片做了什么时，我感到极度恶心。” 另一位原告，身份为新泽西州 Doe，表示他曾在自己的 X 账户上发布了一张自己的照片。后来他注意到 Grok 在该网站上制作了他人的人脸深度伪造图像，并要求“Grok 不得在未经我同意的情况下生成我的图像”。他随后发现两张所谓的深度伪造照片“实质上具有色情性质”，并写道：“这一请求让我的账号引起了网络喷子的注意，他们利用 Grok 对我进行骚扰和造成困扰。” 在一份回应文件中，原告律师敦促法院维持化名，并指责xAI利用此事向原告施压，试图迫使他们放弃诉讼。 诉状中指出：“在脱去原告的衣物后，xAI现在试图剥夺原告的化名，明显意图通过叠加他们希望消除的相同损害，恐吓原告放弃诉讼。” 查看评论
国家广播电视总局宣布，在星期一（6月1日）启动微短剧有害低俗内容和侵权盗版专项治理，治理部分微短剧存在的涉儿童有害、软色情擦边等问题。 广电总局星期三（3日）在微信公众号公布，这个专项治理为期两个月，将集中治理部分微短剧存在的涉儿童有害、软色情擦边、拜金炫富、畸形婚恋观、封建糟粕、暴力复仇、低俗片名、侵权盗版这八个重点问题，规范微短剧创作传播行为。 广电总局有关负责人说，本次专项治理对于营造微短剧行业良好内容生态具有重要意义。 广电总局强调，各省级广电行政主管部门要切实履行属地管理责任，建立巡查与抽查机制，对辖区内平台和制作机构实行全周期、动态化监管；相关平台和制作机构要认真落实主体责任，积极主动开展全面排查，对发现的问题内容即查即改、处置到位。 国家广播电视总局也说，专项治理结束后，将及时总结经验，开展常态化监测监管，制定完善法规制度，进一步营造良好网络视听环境。 zaobao.com.sg 中国专项治理微短剧：涉儿童有害、软色情擦边等问题 中国国家广播电视总局宣布，在星期一（6月1日）启动微短剧有害低俗内容和侵权盗版专项治理，治理部分微短剧存在的涉儿童有害、软色情擦边等问题。 7 个帖子 - 7 位参与者 阅读完整话题
IT之家 6 月 4 日消息，据路透社报道，英国议员杰丝 · 阿萨托正起诉埃隆 · 马斯克旗下的 xAI 公司，她在周三发布声明称，Grok AI 平台被用于制作她的色情伪造图像。 Grok 依托马斯克旗下社交平台 X 对外提供服务。今年早些时候，该工具因被滥用、未经当事人许可生成色情伪造图像引发强烈抗议，目前已有多个国家的监管机构针对这款产品展开调查。 身为英国首相基尔 · 斯塔默所属工党议员的阿萨托在声明中表示：“Grok 生成的深度伪造色情内容侵害了数千名妇女与未成年人的权益。该功能的出现绝非偶然失误，也不是用户误用所致，而是产品研发方刻意的设计选择。我提起本次诉讼，就是要追究相关设计决策的法律责任。” IT之家注意到，今年 1 月中旬，xAI 曾表态，已对 Grok 的图片编辑功能作出限制，在相关行为属于违法的司法辖区内，禁止用户生成身着暴露服饰的人物图像。 路透社 2 月上旬核查发现，即便新规落地，只要用户输入相关指令，即便明确标注图像当事人并未授权，Grok 依旧能够生成涉黄伪造人像。 xAI 隶属于马斯克的 SpaceX，后者计划于本月晚些时候推进上市，有望创下全球史上规模最大的首次公开募股纪录。 阿萨托办公室发布的资料显示，她在 1 月公开抨击 Grok 之后，就有网友制作并散播她身穿比基尼的伪造图片，还炮制出一段视频，内容为她被氯仿迷晕、即将遭受性侵的虚构画面。 今年 3 月，美国巴尔的摩市也对 xAI 提起诉讼，主张 Grok 可生成色情伪造图像的特性违反了当地消费者保护相关法规。 代理律所 AWO 透露，阿萨托已向英国高等法院递交诉状，指控对方违反数据保护法规、不当滥用个人隐私信息。她提出多项维权诉求，包括索要赔偿金、要求对方正式承认相关行为违法，同时申请法院下达禁令，勒令 xAI 终止一切相关不法行为。 AWO 律所法务主管拉维 · 奈克表示：“本案是首批针对人工智能产品设计追责的诉讼之一，我们希望借此明确：人工智能研发企业不能把安全保障当作事后补救的备选事项。”
IT之家 6 月 1 日消息，抖音官方今天在“抖音黑板报”公众号发文称，近期官方发现部分涉未成年人违规行为呈现出极强的伪装性、迷惑性和隐蔽性， 如炒作“乱伦梗”进行色情导流 、 利用未成年人形象发布低俗内容等 。 抖音表示，官方将对相关违规内容及账号从严从重处置，涉违法犯罪线索主动上报至主管部门，“线上 + 线下”共建未成年人保护共治生态。官方还在公告中披露了两起典型案例，IT之家附详情如下： 典型案例 1：炒作“乱伦梗”进行色情导流，4 人被刑拘 平台发现，有账号刻意打造“陪读妈妈”“单亲妈妈”人设，发布性感擦边视频，并使用隐蔽的黑话或暗语炒作低俗乱伦梗。平台深入挖掘后发现，违规账号借此诱导用户至第三方平台传播色情资源并实施诈骗。平台立即清理违规内容，封禁违规账号，并固定线索上报至主管机关。最终， 该团伙 4 名犯罪嫌疑人已被刑事拘留 。 典型案例 2：利用未成年人形象发布低俗内容，近一个月 897 个账号被处置 “X*O”“K*O”等账号以未成年人形象出镜，发布身着暴露服饰的擦边舞蹈视频， 通过频繁扭胯 、 夹腿等性暗示动作 ，营造低俗观感，博取眼球，并刻意标注“已成年”试图规避平台审核。平台已下架相关违规内容，并对账号处以禁止投稿、禁言等处置。 抖音认为，保护未成年人健康成长任重而道远，需要家庭、学校、行业等社会各界广泛参与、协同努力。官方将持续强化技术手段，提升审核能力，持续加强对涉未成年人不良内容的全方位治理，与社会各界一道，共同筑牢未成年人网络安全防线。
日前， 欧洲议会议员和欧盟成员国就修订《人工智能法案》达成共识，同意禁止AI生成“深度伪造”的色情内容。 据了解，这一禁令将被纳入2024年通过的《人工智能法案》修订条款，意味着欧盟将在法律层面对相关AI滥用行为划出明确红线。 欧洲议会议员迈克尔·麦克纳马拉表示，这是欧盟首次通过立法明确禁止“脱衣换脸”类应用程序。 他强调： “欧盟今天划定了‘红线’。人工智能绝不能用于羞辱、剥削或危害他人。 ” 近年来，AI深度伪造色情内容引发全球关注。 今年1月，马斯克旗下社交媒体平台X的AI聊天机器人Grok，就曾被部分用户滥用于生成色情内容，并被推上舆论风口浪尖。 根据人工智能取证组织报告，2025年12月25日至2026年1月1日， 在Grok以深度伪造方式生成的2万张图像中，55%的人物图像穿着暴露，其中81%是女性，另有2%的图像中人物年龄不足18岁。 在持续数周的舆论压力下，X于1月14日宣布对Grok采取限制措施，禁止该功能生成真人裸露图像。 X平台安全团队表示，已实施技术措施，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像，该限制适用于所有用户，包括付费订阅用户。 此外，该团队还称，正在全天候工作以增设防护措施，移除违规及非法内容，在必要时将永久封禁账户并与当地政府及执法部门开展协作。 查看评论
IT之家 5 月 7 日消息，欧盟成员国与欧洲议会议员已就弱化版的人工智能法案达成初步协议，这是是欧盟委员会所谓的“数字一揽子计划”的一部分。 欧洲议会在周四凌晨发布新闻稿称，经过深夜谈判，各方达成临时协议，决定推迟人工智能系统部分合规义务的生效时间，以避免法律适用不确定性。 各方商定，将高风险人工智能系统相关法规的生效时间，从原定今年 8 月 2 日推迟至 2027 年 12 月 2 日。这类高风险系统涵盖生物识别、关键基础设施、教育、就业、执法及边境管理等领域。 协议还同意将机械设备排除在人工智能法案管辖范围之外，理由是机械设备只需遵守其现行适用的行业安全法规即可。 批评人士认为，欧盟两大立法机构此举是向企业压力作出妥协让步。 人工智能生成内容强制水印标注规定将于今年 12 月 2 日正式实施。 塞浦路斯欧洲事务副部长玛丽莱娜・劳乌纳在声明中表示：“此次《人工智能法案》达成协议，通过降低企业常态化行政成本，为本国企业提供了有力支持。协议保障了法律确定性，让相关法规在欧盟范围内落地实施更顺畅、标准更统一，同时也强化了欧盟的数字主权与整体竞争力。” 目前塞浦路斯担任欧盟理事会轮值主席国。 禁止“裸照生成”类应用 欧盟成员国与欧洲议会谈判代表还达成共识，禁止利用人工智能应用制作未经授权的色情深度伪造内容。 相关内容包括图片、视频及音频。相关企业需在今年 12 月 2 日前完成系统合规整改。 此次拟定的禁令还明确将制作儿童性虐待相关虚假影像内容纳入管控范畴。 欧盟此次修订举措，在很大程度上是对今年年初相关事件的回应：当时有用户利用美国富豪埃隆・马斯克旗下的人工智能聊天机器人 Grok，在网络上生成并传播数百万张由 AI 制作的女性及儿童色情影像。 声明指出：“我们正加大对儿童的保护力度，防范人工智能系统带来的相关风险。此次协议充分证明欧盟各机构具备快速行动、兑现承诺的能力。” 简化监管配套举措 IT之家注意到，欧盟《人工智能法案》已于 2024 年 8 月正式生效，核心条款将分阶段逐步落地实施。 此次周三达成的修订方案，是欧盟委员会推进简化各类新兴数字监管法规工作的一部分。该协议后续还需经欧洲议会全体会议及欧盟各国政府正式批准，而这一流程普遍被认为只是例行程序。
IT之家 4 月 24 日消息，抖音黑板报刚刚宣布持续治理色情低俗导流行为，配合有关部门再抓捕三名犯罪嫌疑人。 抖音表示，平台在常态化治理中发现，部分违规用户不断变化手段，利用新暗语、新技术等方式伪装，试图规避平台审核，抖音正不断增强风险挖掘力度，升级技术识别能力，持续将各类新型违规内容纳入管控范围。近期，平台发现两类突出违规行为，对此坚决打击。 其中一类典型案例涉及购买他人账号发布低俗内容导流牟利。平台在治理中发现，部分违规用户通过购买他人账号，发布低俗擦边内容积累粉丝，将粉丝导流至第三方 App，进行传播淫秽色情信息、为色情网站及 App 导流等违法活动。抖音立即固定证据并上报线索，最终三名犯罪嫌疑人被依法刑事拘留。 另一类典型是利用隐晦暗语分享“AI 制作大尺度内容”教程。部分用户借用“AI 教程”名义，通过隐晦暗语等形式分享 AI 生成大尺度内容的提示词、教程，违反平台规则，不仅借此违规导流、涨粉，甚至为不良网站或软件引流。 抖音对相关内容展开全面巡查，近两周已处置相关违规内容 3000 余条。其中，“ww”“98”等用户通过分享上述内容借机为不良网站或软件导流，平台已下架相关内容，对应账号已被禁言。 IT之家注意到，抖音此前已围绕“发布、传播 AI 生成低俗内容”展开治理，并对外公示处置情况。 今年以来，平台针对 AI 肖像恶搞、AI 著作权侵权、AI 仿冒蹭热、AI 侵权带货等典型违规行为持续加大打击力度，通过开展多轮专项治理行动、畅通用户举报反馈渠道，已累计下架 AI 侵权视频超 53.8 万条，处罚违规账号 4000 多个。 在 AI 生成色情低俗类违规方面，抖音今年已处置 4.2 万条内容，对 1.4 万个账号予以限制推荐、禁言、封禁等不同梯度的处罚。此外，平台还针对利用 AI 生成“单亲妈妈陪读”等人设进行色情导流的黑产团伙开展专项打击，配合公安机关成功抓获多名犯罪嫌疑人。 抖音提醒用户，发布、传播色情低俗内容，不仅违反《抖音社区自律公约》，更可能触碰法律法规红线，平台将持续治理。同时，抖音也呼吁广大创作者及用户共同自觉抵制违法违规与低俗不良信息，共建文明、健康、有序的网络环境。
据报道，SpaceX在其最近提交的招股说明书中警告称，针对其人工智能部门xAI创建和传播性虐待图像的多项调查可能会导致其失去某些市场的准入资格。在有关风险因素的部分中，SpaceX提交的S-1上市申请文件称，全球众多机构“正在积极调查并就社交媒体或人工智能的使用情况”展开相关研究，这些研究涉及广告、消费者保护以及有害内容的传播等方面的问题。 SpaceX在S-1文件中强调，该公司面临的一项挑战是“有指控称，其人工智能产品被用于创建未经同意的露骨图像或内容，其中涉及儿童的性化场景”。该文件指出，此类监管调查可能使SpaceX面临诉讼、责任和政府处罚——“包括失去进入某些市场的机会，这种情况过去曾发生过”。 目前尚不清楚潜在的监管措施是会阻止SpaceX整体进入某些市场，还是只会影响其子公司xAI。 尽管监管文件中列举的风险因素包括爱尔兰数据保护委员会于2月份发起的一项调查，但xAI公司因其平台上大量出现的性暗示图片而面临全球审查。这些内容在2025年末和2026年初尤为突出，主要内容是该公司社交媒体平台X上近乎全裸的女性和儿童图片。 xAI在1月份表示，已采取措施阻止用户请求获取真实人物的性暗示图片，并表示会阻止用户在相关法律禁止的地区生成此类内容。 此前在加拿大、英国、巴西、加利福尼亚州和其他地区启动的多项调查仍在进行中。在法国，马斯克周一无视了检察官的传唤，拒绝回答有关其滥用算法、非法提取数据以及参与传播儿童性虐待材料的指控。 S-1文件中关于市场准入的警告凸显了针对xAI的各项调查的重要性，尤其是针对人工智能生成涉嫌儿童性虐待图像和非自愿女性性图像的调查。在某些司法管辖区，制作此类图像可能构成犯罪，而其传播是一个极具争议性的问题，能够迅速引发公众舆论。 XAI对Grok的限制措施似乎减缓了滥用内容的传播，但并未完全阻止。今年2月有报道称，即使用户明确警告Grok，这些图片中的人物并未同意，Grok仍然会生成性暗示图片。上周，有报道称发现 Grok 仍在公开生成性暗示图片，其中包括演员和流行歌星的图片。 查看评论
据新华社报道， 马斯克收到法国检方传唤，要求他当地时间20日在巴黎就其旗下社交媒体平台X的不当行为接受调查，包括该平台上未成年人色情图片的传播以及深度伪造内容的泛滥。 巴黎检察官办公室表示，马斯克和X平台前首席执行官琳达·亚卡里诺都被传唤，要求接受“志愿问询”，而X平台一些雇员预定本周将以证人身份接受问询。 目前，尚不清楚马斯克和亚卡里诺是否会前往巴黎。 据了解，此次传唤源于巴黎检察官办公室网络犯罪事务部门2025年1月启动的一项调查。 2月，调查人员还突袭搜查了马斯克X平台的法国总部办公场所。 一名法国议员指控X平台的算法存在偏见，可能扭曲了自动化数据处理系统的运行，法国检方因而启动调查。 最初，调查主要聚焦于X平台涉嫌滥用算法和欺诈性数据提取，随后扩大至传播大屠杀否认言论、儿童色情内容和深度伪造色情图像等问题。 法国检方还怀疑上述问题或系人为策划，意在抬高X平台和xAI的价值。 查看评论
IT之家 4 月 15 日消息，“抖音黑板报”公众号今天下午发布公告称，近一个月，针对涉未成年人的违规场景， 平台共清理相关违规内容 20.4 万条 ，对 8145 个账号处以清理违规增长粉丝、限制商业变现功能、禁言、封禁等不同梯度的处罚。 公告指出，近期，平台在治理中发现，涉未成年人违规行为出现新场景、新手法： 部分用户借“交友陪伴聊天”向未成年人发送低俗色情信息，诱导拍摄私密部位； 恶意魔改经典动画，植入血腥恐怖元素，炮制“儿童邪典”； 通过 AI 生成未成年人悲惨形象吸粉引流，不当牟利。 IT之家从公告获悉，相关行为违反《未成年人网络保护条例》《可能影响未成年人身心健康的网络信息分类办法》等法律法规及《抖音社区自律公约》等平台规则，平台已依法依规从严从重处置。 典型案例公示如下： 1、借“交友陪伴聊天”向未成年人传播低俗色情信息，嫌疑人被抓获 近期，平台根据举报线索发现， 有用户冒充未成年女性，以交友、聊天为名搭讪未成年人 ，在聊天中刻意引导交流隐私话题，诱骗未成年人发送隐私视频，实施隔空猥亵。平台立即向公安机关报案，最终，该嫌疑人已被公安机关成功抓获。 2、炮制传播血腥恐怖“儿童邪典”，近一个月 99 个账号被禁言 “奥 * 泽”“奥 * 羊”等账号利用 AI 技术对《奥特曼》等经典动画形象恶意篡改、二创， 植入血腥、暴力、恐怖、惊悚元素 ，危害未成年人身心健康。平台已下架相关违规内容，并对账号处以禁言处置。 3、AI 生成未成年人悲惨形象吸粉引流，近一个月 45 个账号被处置 “3*2”“卖 * 孩”等账号利用 AI 技术生成“未成年人生病跪在医院门口乞讨”等内容， 刻意营造未成年人悲惨处境，并借此诱骗用户互动 ，以此吸粉引流。平台已下架相关违规内容，并对账号处以限制投稿、禁言处置。