WWW.YOUINFO.SITE
标签聚合 管控

/tag/管控

cnBeta全文版 · 2026-06-08 13:05:40+08:00 · tech

微软日前表示,在完成一项针对以色列军方使用其云技术的内部调查后,公司将收紧与国家安全机构合作时的人权管控。该公司4日宣布,已完成上述调查,并将推出一系列新措施,其中包括调整对持有外国政府安全许可员工的内部监督与管理方式。 微软于去年启动这项调查,背景是《卫报》联合以巴媒体“+972 Magazine”和希伯来语媒体“Local Call”披露,以色列军方情报机构8200部队利用微软云平台存储大量被截获的巴勒斯坦电话通话内容。 在调查启动不久后,微软就终止了以色列军方访问其云和人工智能服务,用于支持相关监控项目的权限,初步调查显示8200部队的做法已违反微软的服务条款。 微软在最新公布的调查结果概要中表示,其“事实认定保持不变”,公司将采纳多项建议,以提升“人权治理的有效性”。 这一被称为“最终更新”的公告,被视为微软试图为这段艰难时期画上句号,此前外界高度关注其技术在以色列对加沙的轰炸以及在被占领约旦河西岸行动中的作用。 此前的调查报道指出,8200部队使用微软Azure云平台运行一套高度泛化的监听系统,使情报人员能够每天收集、回放和分析数以百万计巴勒斯坦手机通话内容。 这一情况引发微软高层担忧:公司在以色列子公司的部分员工,可能并未就自身对8200部队使用微软技术情况的了解,向总部保持充分透明。 知情人士透露,内部调查亦审视了微软特拉维夫办公室部分员工在去年10月7日哈马斯袭击以南部地区之后,如何在对公司忠诚与对以色列军方支持之间产生内心冲突。 上月,微软宣布其以色列业务负责人将离职,当地媒体报道,这一人事变动与子公司内部涉及违反微软道德守则的争议有关,另有多名管理层人士也被指已经离开公司。 不过,这些人事变动并未写入微软发布的调查总结文本中。 在这份五页文件中,微软重点列出了多项将落实的制度性措施,包括调整在签署合同前对“国家安全相关”业务的审查方式。 文件还指出,微软将检视其在“特定国家”如何管理员工安全许可,并“进行相应调整,以确保员工理解如何在为微软工作的前提下,处理安全许可所带来的各类要求”。 《卫报》此前报道,参与管理与8200部队项目的多名员工,曾在这一精英监控部队服役或以预备役身份供职,该部队在职能上被普遍视作以色列版的美国国家安全局(NSA)。 除员工管理外,微软还承诺将定期审查敏感客户是否遵守其可接受使用政策,尤其是在出现“新的政治环境或项目敏感性变化”时。 公司同时表示,将在“受冲突影响及高风险地区”强化人权尽职调查流程,以降低技术被用于侵犯人权的风险。 微软方面一再强调,包括首席执行官萨提亚·纳德拉在内的最高管理层,此前并不知晓8200部队使用Azure存储截获的巴勒斯坦通信内容。 公司同时重申,不会向任何一方提供用于对平民进行大规模监控的技术。 然而,相关披露已经在微软内部及外部引发连锁反应。 去年,《卫报》报道曝光后,微软位于美国总部和一家欧洲数据中心先后遭遇抗议活动,要求公司停止向以色列军方提供技术支持。 股东、非政府组织以及由员工发起的“No Azure for Apartheid”行动团体,随后也不断施压,要求微软在与以色列军方客户的业务往来上提高透明度。 本周,该团体又在微软于旧金山举办的年度大会期间发起新一轮抗议。 在会场外,示威者打出“微软为种族灭绝提供动力”“立即切断与以色列关系”等标语,以此谴责公司在以色列军事行动中的角色。 在外界目光聚焦之下,微软此次通过完善内部管控和人权治理机制,试图平衡商业利益、国家安全合作与人权责任之间的紧张关系,但其具体执行效果和外界反应仍有待进一步观察。 查看评论

cnBeta全文版 · 2026-06-03 02:35:55+08:00 · tech

微软正尝试用一套全新的开源标准,帮助企业在不同系统和应用中更可控地部署功能日益强大的 AI 代理(AI agents)。 这套名为“Agent Control Specification”(代理控制规范,简称 ACS)的标准,旨在为开发者提供一种更一致、更细粒度的方式,去限定 AI 代理“能做什么、不能做什么,以及何时必须有人类介入”。 随着企业加速把 AI 代理嵌入各类应用、工作流和产品,一个突出难题是:同一个代理在不同环境中运行时,如何确保其行为始终符合预期和合规要求。 目前,开发者往往通过系统提示词、在应用代码中加入自定义校验,或利用分类器拦截问题输入输出等方式“拼接式”地搭建控制机制。 这些做法在短期内可以工作,但很容易导致控制策略分散在不同框架和接口中,既难以审计,也难以在多个系统之间复用。 在行业反思 AI 工具调用错误、意外操作引发连锁故障等问题的背景下,这一痛点愈发突出。 微软表示,ACS 的目标是把分散的控制手段整合到一个统一的治理层中,让开发、替换正文合规和安全团队可以通过一份策略文件来约束代理行为。 在这些策略文件中,团队可以明确规定:代理允许执行哪些操作、禁止执行哪些操作、在什么情况下需要人类审批,以及需要记录哪些证据以备日后审查。 在代理执行任务的多个关键“拦截点”,系统会对照这些策略进行检查,以确保代理始终在“护栏”之内运行。 具体而言,ACS 允许在代理工作流的多个阶段实施检测:包括代理接收输入之前、调用工具之前、工具返回结果之后,以及向用户输出最终回复之前。 策略可以在这些节点上给出不同处置:例如直接允许某个动作、阻断执行、对敏感信息进行脱敏或遮盖,或者将决策提交给指定人员审批。 除此之外,开发者还可以集成输入和输出分类器,对信息进行分类、预测可能结果或指导代理如何回应;也可以引入大型语言模型配合特定提示词,让其充当策略“裁判”,并加入检查工具调用、工具选择、输入准确性、输出使用方式以及回复内容的逻辑。 ACS 的一大设计思路,是将这些控制策略写成独立、可移植的单一文件,并与代理一同“打包”。 这样一来,同样的一套安全与合规策略可以随代理在不同框架和运行环境之间迁移,而无需反复重写规则逻辑,从而增强了跨系统的一致性和可审计性。 对于在多个业务线、多个技术栈中并行推进 AI 部署的大型企业而言,这种“策略随代理走”的模式,有望在降低治理成本的同时,提升合规透明度。 在落地形态上,ACS 以 SDK 形式提供,并已集成到多个主流代理框架和开发工具中。 据介绍,ACS SDK 目前支持 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI 以及 MCP 工具等生态。 通过这些插件,开发者可以在既有的代理应用中接入 ACS,将策略文件嵌入原有工作流,无需从头重构系统架构。 在 AI 代理快速渗透企业业务的当下,如何在“可用”“好用”和“可控”“可审计”之间找到平衡,已经成为技术团队、合规部门与安全团队共同面对的现实课题。 微软此次推出的 Agent Control Specification,试图以开放标准的方式,为行业提供一套统一的治理基础设施,使 AI 代理在不同场景中运行时,既能保持灵活性,又能够被清晰地约束和追责。 查看评论

cnBeta全文版 · 2026-06-03 02:35:08+08:00 · tech

Anthropic 于本周二宣布,将扩大其严格管控的 Mythos 模型的使用范围,新增约 150 家机构获得访问权限。这使得获得该模型访问权限的机构总数达到约 200 家。Anthropic 表示,这些未在公告中具名的新增机构分布于多个行业领域,这些领域在“首批用户群体中并未得到充分代表”,包括电力、水务、通信、医疗保健和硬件行业。 该人工智能实验室表示,许多新合作伙伴来自超过 15 个国家,它们是政府及其他主要国家机构所依赖的代码库的供应商。 Anthropic 表示,允许关键机构访问 Mythos 模型,是为了让它们能够利用该模型加强自身的网络安全防御。该模型的发布引发了人们对前沿 AI 模型潜在黑客能力的担忧。据报道,Mythos 拥有先进的网络安全和黑客攻击能力,可能对国家安全及其他关键基础设施构成严重威胁。 Anthropic 称:“我们预计,在未来 6 到 12 个月内,许多其他 AI 公司将拥有 Mythos 级别的模型,并且它们可能会在缺乏防止滥用的保障措施的情况下发布这些模型。我们希望‘玻璃翼项目’能促使各机构建立反映这一现实情况的运行规范。” 首批合作伙伴包括美国政府、摩根大通 (JPM) 和高盛 (GS) 等领先的投资银行,以及一系列大型科技公司,如亚马逊 (AMZN)、苹果 (AAPL)、英伟达 (NVDA)、博通 (AVGO) 和 CrowdStrike (CRWD)。 Anthropic 首席执行官 Dario Amodei 在该人工智能公司组织的一次活动中亮相。 Anthropic 表示,首批约 50 家合作伙伴已发现超过 10,000 个“高严重性或关键性”安全漏洞。每个新增的合作伙伴机构在获得模型访问权限之前,都必须通过安全审查。 Anthropic 写道:“每个合作伙伴的共同点是,如果他们的代码库遭受成功的攻击,后果可能是灾难性的。我们估计,对于大多数合作伙伴而言,一次重大攻击可能会影响超过 1 亿人,并对全球和国家安全产生重要影响。” Anthropic 已于周一(6月1日)向美国证券交易委员会秘密提交了公开上市的相关文件,为该公司与 SpaceX 及同为 AI 实验室的 OpenAI 一道,进行今年预计规模最大、最受瞩目的首次公开募股 (IPO) 铺平了道路。 该人工智能实验室上周宣布,已在 H 轮融资中筹集了 650 亿美元,使公司投后估值达到 9650 亿美元。Anthropic 表示,公司近期的年度经常性收入已超过 470 亿美元。 查看评论

IT之家 · 2026-06-02 23:13:12+08:00 · tech

IT之家 6 月 2 日消息,社交媒体平台正因儿童健康与安全问题受到越来越多审视。据路透社 2 日(今天)报道,Meta 表示,Instagram、Facebook 和 Messenger 的青少年账号内容设置将在全球范围内扩大适用,以便为年轻用户提供 更符合年龄的使用体验 。 Meta 最早于去年 10 月在部分国家推出这套设置,目标是 阻止儿童接触不适当内容 。Meta 同时宣布,Instagram 将测试一项新功能,让青少年看到的内容更加多元, 减少特定主题在信息流中反复出现 。 今年 4 月,Meta 曾警告投资者,欧盟和美国围绕青少年社交媒体问题引发的法律和监管压力,“可能会对我们的业务和财务业绩产生重大影响”。 3 月 25 日,洛杉矶一个陪审团在一场具有标志性意义的审判中认定,Meta 和谷歌在社交媒体平台设计上存在过失,平台设计对年轻人造成伤害。陪审团向一名 20 岁女性判给合计 600 万美元(IT之家注:现汇率约合 4068.5 万元人民币)赔偿。这名女性称,自己从儿童时期开始沉迷社交媒体。 Meta 透露,青少年账号将默认启用 13+ 内容设置,过滤掉被判定为不适合青少年的内容;Facebook 和 Messenger 今年晚些时候将加入“受限内容”设置,为用户提供限制更严格的体验。“我们认识到,有些内容可能有帮助,比如关于营养、举重,或者如何应对焦虑的帖子。 但这些内容应该和其他类型内容保持平衡,而不是反复推送 。”

IT之家 · 2026-05-28 10:46:28+08:00 · tech

IT之家 5 月 28 日消息,今日,工业和信息化部商生态环境部、市场监督管理总局、海关总署、国家疾控局等七部门后,以公告形式更新发布《电器电子产品有害物质限制使用达标管理目录(2026 年版)》及其配套文件,进一步扩大电器电子产品有害物质管控种类,持续加大管控力度。 为从源头减少铅、汞等重金属及多溴联苯等持久性有机污染物的使用 ,按照部门规章《电器电子产品有害物质限制使用管理办法》要求,2018 年,工业和信息化部商有关部门发布了包括 电视、冰箱、洗衣机、电脑、手机 等 12 种产品在内的第一批管理目录,目录内的产品除特定豁免情况外,均应满足有害物质限制使用相关标准。截至 2026 年 4 月底,已有 12 种近 3.3 万个型号的电器电子产品达到管控要求。 2025 年,有害物质限制使用相关标准由推荐性升级为强制性,2026 年,新颁布的《中华人民共和国生态环境法典》明确纳入电器电子产品有害物质管控要求。为更好贯彻落实相关法律法规及标准要求,适应电器电子产品种类日益丰富、有害物质减量和替代技术快速发展的新形势,工业和信息化部商有关部门修订了有害物质管控产品目录及配套文件。 新修订的有害物质管控产品目录在第一批 12 种产品的基础上,新增 23 种产品。新版达标管理目录新增产品管控要求将于 2027 年 8 月 1 日起正式实施。主要包括: 一是生活及工作中日渐普及的家用及类似用途的产品 。如,微波炉、电饭锅、饮水机、投影仪、便携式移动电源等。 二是伴随着信息技术的快速发展而新兴且更新换代较快的产品 。如,智能手环手表、耳机、智能音箱、扫地机器人、电子智能锁、服务器、网络用交换路由设备等。 三是消费者高度关注安全健康属性的产品 。如,主要面向少年儿童群体的电玩具、读写作业台灯,主要面向中老年群体的电子血压计、血糖仪,主要面向听障人群的助听器等。 下一步,工业和信息化部将会同有关部门,持续优化电器电子产品有害物质管控制度顶层设计,加大政策宣贯力度,强化实施监督,推动有害物质减量和替代技术创新应用,不断满足消费者绿色消费需求,持续筑牢人民群众身边的安全健康屏障。 IT之家附完整目录如下:

v2ex · 2026-05-14 22:25:29+08:00 · tech

[ P6/P7 ] [北京/杭州] PolarDB 数据库管控开发( Data+AI 方向) [团队介绍] PolarDB 管控团队专注打造国际一流的云原生数据库 PolarDB ,以“高性能、高弹性、高智能”为核心构建企业级云数据库基础设施。团队突破传统架构限制,首创计算 Serverless 架构(动态资源按需分配,降低成本 50%+,支持百万核级 CPU 调度),率先实现多主架构、HTAP 混合负载处理等创新技术,服务金融、电商等关键行业数万企业数字化转型。在 Data+AI 领域,团队构建 AI 节点计算框架支持向量检索/图计算等,持续探索智能数据平台新边界。作为阿里云数据库“梦之队”,团队通过软硬一体化创新,正引领全球数据库技术进入智能化新纪元。 [职位描述] 作为 PolarDB 管控 Data+AI 方向的研发工程师,你将深度参与 PolarDB 核心管控系统的设计与研发,推动云原生数据库在弹性、可靠性、智能化方向的技术突破。你将与数据库内核、存储、AI 等多个顶尖团队协作,打造面向未来的下一代智能数据库平台,包括不限于: 1 、负责 PolarDB 管控系统架构设计与核心模块开发,包括集群管理、资源调度、自动化运维、高可用容灾等 2 、参与 PolarDB Serverless 架构应用到 Data+AI 场景的演进,优化弹性伸缩策略与资源利用率,提升系统性能与成本效益 3 、探索 Data + AI 融合场景,参与 AI 节点调度、向量检索引擎集成等前沿方向研发 4 、持续提升系统可观测性、自动化运维能力与客户体验,服务数万关键行业客户 职位描述 1 、计算机或相关专业本科及以上学历,3 年以上大规模分布式系统或数据库系统研发经验 2 、扎实的编程基础,精通 Go/Java/C++ 中至少一种语言,具备良好的系统设计与问题排查能力 3 、熟悉 Kubernetes 等开源云平台,具有丰富经验或者深入研究过源码的优先 4 、有大规模数据库管控平台研发、高可用架构等相关经验者优先 5 、对云原生数据库、Serverless 、HTAP 、Data+AI 等技术方向有热情和深入理解者优先 6 、具备强烈的技术好奇心与创新精神,能独立承担复杂模块设计与攻坚任务 7 、快速学习能力,良好的沟通能力和团队协作意识,愿意分享,追求卓越 联系方式 WX ( base64 ): bGMxOTk5ODE4 联系方式邮箱( base64 ):bXVzaGVuZy5sY0BhbGliYWJhLWluYy5jb20=

IT之家 · 2026-05-14 18:33:45+08:00 · tech

IT之家 5 月 14 日消息,三星正在向 Galaxy S26 系列推送首个 One UI 9 测试版,该版本新增了多项安全功能。 自动防护(Auto Blocker)新增安全报告功能,同时在最大限制模式下恢复了完整的 USB 连接屏蔽设置。One UI 9 还推出了另一项全新安全功能,可帮用户追踪管控未知来源应用。 IT之家注意到,三星在 One UI 9 测试版新闻稿中表示:“One UI 9 还升级了对可疑应用及潜在风险的防护能力:当检测到新增高风险应用时,系统会向用户发出预警、阻止应用运行与安装,并通过安全策略更新建议用户将其卸载。” 在首个 One UI 9 测试版中,进入设置 > 安全和隐私 > 更多安全设置,现已新增管理未知应用入口。 如截图所示,管理未知应用页面会列出手机中所有非官方认证来源安装的应用,包括非谷歌 Play 商店和三星应用商店(Galaxy Store)下载的应用。 该功能可将手机里所有侧载安装的应用统一汇总展示,方便用户卸载不信任或不认识的应用。 用户原本可以通过逐一翻看已安装应用列表排查可疑应用,但手机应用往往多达数十甚至上百款,人工排查十分繁琐。而管理未知应用功能将部分安全审核权限交由谷歌 Play 商店和三星应用商店把控(入驻商店的应用均需遵守对应平台的安全与隐私规则),只需排查精简后的应用列表,管理起来更轻松。 目前管理未知应用功能已在 One UI 9 测试版中上线,预计也会被纳入 One UI 9 的正式版。

plink.anyfeeder.com · 2026-04-27 19:06:16+08:00 · tech

今日,小红书发布AI治理规则公告。小红书表示,“AI让创作变得更高效,也让造假变得更容易。仿冒真人、批量刷内容、侵占他人原创——这些行为消耗的,是每一个认真做内容的人换来的社区信任。小红书正式发布AI内容治理规则,明确平台立场与管理边界。真诚创作的人,值得被看见、被保护。” 关于“AI内容标识”方面,小红书表示,“平台鼓励创作者如实标识AI内容。无论是完全由AI生成,还是经AI润色的再创作,均建议在发布时主动声明。对于未主动标注的AI内容,平台识别后将统一添加标识;同时上线申诉通道,供创作者对标识结果提出异议。” 关于“平台鼓励的AI创作方向”方面,小红书表示,平台欢迎创作者以AI为创意工具,提升内容质量与信息价值,具体鼓励方向包括: AI视觉创作:具有风格辨识度的艺术插画、绘画,或具备叙事逻辑与情感导向的电影感短片; AI角色创作:创作者原创的虚拟角色,或基于已有IP、有明确亮点的衍生创作; AI知识科普:将复杂知识可视化的科普内容、AI音乐创作,以及有信息增量的AI创作教程。 在“平台禁止的AI违规行为”方面,小红书表示,对以下利用AI技术违反社区规范的行为持严格管控: AI违规运营:利用AI工具自动运营账号、冒充真人互动,或传授利用AI洗稿、规避审核的做号方法; AI造假:克隆他人声音或面孔、以虚假人设种草、伪造经历与截图,或制造涉及公共事件的虚假图文视频; AI侵权:未经授权生成他人可识别肖像,或模仿受版权保护的视觉、文学、音乐作品; AI低质:套用模板批量生产同质化内容、以猎奇画面博眼球,或传播极端不良价值观。 对于以上违规行为,平台将根据情节轻重,采取限制分发、封禁账号等梯度处置措施。此外,涉及违法违规、色情等安全底线的内容,无论是否由AI生成,均适用社区原有规则,平台将一并严格管控。 小红书称,“平台将持续建设对AI内容的识别与治理能力,与每一位真诚的创作者共同守护社区真实、公平、有温度的内容环境。” 查看评论