到府組裝客製木馬：俄駭客用中國 AI，遠端生成惡意程式碼攻擊烏克蘭國防部

2025/08/14 DSET民主治理組


轉角國際 udn Global

文／張仁瑋

在經典港片《賭神二》，反派角色仇笑痴攜帶一把能逃避金屬探測器的象牙手槍，走進黑白兩道都要安檢的賭場。這類「道高一尺，魔高一丈」的欺騙、偽裝、隱秘配送，其實也是近年「數位戰爭」的常態。而在語言模型的加持下，惡意軟體的變形能力已提升到全新層次，傳統的防火牆與安檢機制，正如同面對象牙手槍的金屬探測器，防不勝防。

2025 年夏季，當世界仍在熱議 OpenAI 釋出的 gpt-oss 、期待 GPT-5 更強的能力。一場發生在烏克蘭的網路攻擊，則展現了數位戰爭的新趨勢：由人工智慧驅動、更隱密、彈性的攻擊手法。
 

▌學會「思考」的惡意軟體：



這次攻擊的核心，是一款被烏克蘭的數位緊急應變團隊（CERT-UA）命名為「LameHug」的惡意軟體，它的目標是烏克蘭國防與安全部門。攻擊者透過冒充政府官員的釣魚郵件，誘騙受害者打開一個偽裝成業務相關 PDF 文件的惡意程式。程式植入受害者的裝置後，LameHug 的任務是竊取電腦中的硬體資訊、系統設定、網路設定、使用者帳號，並地毯式搜索硬碟中的各式文件檔案，打包後送回攻擊者手中。



儘管同是竊資攻擊常見的目標與流程，但這次手法的創新之處不在意圖，而在於「如何」竊取。



傳統的惡意軟體，其攻擊指令寫死在程式當中，像一個只會固定命令的機器人，需按照計劃步步執行。但 LameHug 不同，它透過 API 遠端連接到知名雲端語言模型平台 Hugging Face，使用阿里巴巴開發的開源模型「Qwen 2.5-Coder-32B-Instruct」。這一環節同時也利用了雲端模型平台的信用，惡意程式發送看似普通使用者呼叫線上語言模型服務的正常流量，掩蓋攻擊的痕跡。



攻擊者不再需要預先寫好每一行指令，只需要用「自然語言」下達目標，例如：「列出收集電腦資訊、硬體資訊、網路設定的指令，並將執行結果存成文字檔、傳送到指定伺服器」。AI 模型會即時生成對應的系統指令碼，現場搭建工具給惡意軟體執行。



經由語言模型協助，惡意軟體變得「活」了起來，不用再擔心計劃趕不上變化。它能根據現場觀察到的軟硬體條件、網路設定，動態生成攻擊代碼，大幅提高了攻擊的靈活性與隱蔽性。依賴靜態特徵碼掃描的傳統防毒軟體，此時形同虛設。



圖／張仁瑋整理製圖





▌墮入黑暗面的 AI Agent？



當前科技業熱議的「AI Agent」（AI代理）概念，其目的是理解使用者的模糊敘述、複雜目標，並自主觀察系統環境、手邊的工具，規劃、執行一系列步驟來達成目標。 chatGPT 就已經正式實裝這類 Agent 功能（官方命名為「智慧體」），令使用者可以將電腦交由機器人代為操作。雖然仍需人類下達指令，但它已打通「理解自然語言目標」、「因地制宜生成可執行程式碼」兩個關鍵步驟的橋樑，讓語言模型超越聊天介面限制，開始運用身邊的工具。



LameHug 的運作模式，其實與 AI Agent 相仿，未來這類惡意 AI Agent 可能僅需一個模糊的目標，如「癱瘓金融系統」或「竊取半導體設計圖」，它就能夠自主分析目標網路環境、尋找漏洞、生成客製化攻擊工具、橫向移動、清除痕跡，整個過程無需仰賴精心策劃、管理。



過去存在於科幻小說或動漫作品中的情節，或許正在現實生活逐步成真：不受控制的電腦病毒，可以自主採取多樣的攻擊行動，而且四處流竄難以追緝。



▌俄羅斯的數位戰爭代理人「APT28」



CERT-UA 以中等信度，將此次攻擊歸因於俄羅斯的國家級駭客組織「 APT28 」（又稱「奇幻熊」Fancy Bear、Sofacy）。這個組織早已惡名昭彰，被視為克里姆林宮執行地緣政治意志的數位鐵拳。耶魯大學網路安全實驗室的主任 Scott J. Shapiro 也撰寫過專書《奇幻熊在網路釣魚》介紹釣魚攻擊的氾濫問題。



從 2016 年干預美國總統大選的民主黨全國委員會（DNC）案件，或長期滲透德國國會、攻擊世界反禁藥組織，再到長期針對烏克蘭、北約成員國的網路偵察與破壞。APT28 的每次行動，都與俄羅斯的戰略利益緊密相連。他們是將網路攻擊融入混合戰的先驅之一，而 LameHug 則顯示這支網路軍隊積極使用 AI 的新嘗試。



相伴著同樣懷有領土野心、且將網路戰作為混合戰手段的威權鄰國，烏克蘭與台灣在地緣政治的相似境遇，近年成為世界矚目的焦點。俄羅斯曾對烏克蘭採取過的攻擊手法，從竊取關鍵情報、催動社會極化與混亂、削弱政府公信力、癱瘓關鍵基礎設施，都是中國能學習並用於台灣的技術試驗。



何況， LameHug 正是應用了科技巨頭阿里巴巴所訓練的 Qwen 系列開源模型，產生創新的攻擊手法。證明相關技術條件在中國早已成熟，不僅能精緻地理解中文指令、中文環境，更不需仰賴 OpenAI 這類受到美國監管的廠商。換句話說，這是以中國為前沿發生的技術擴散，且不受到西方國家的供應鏈箝制。



可以假設，中國的國家級駭客組織如 APT27 、APT41 這類擅長滲透目標對象機敏資料的團隊，早已具備與 LameHug 攻擊相同的能力，甚至能夠基於活絡的語言模型市場，開發更先進的攻擊工具，投放到目標對象的設施環境。台灣的政府機關、關鍵基礎設施（電力、水利、金融、通訊）以及全球賴以維生的半導體產業鏈，都是重要的竊資或打擊目標。LameHug 這類部署後可因地制宜、規避偵測的工具，其穿透力可遠超以往案例。







▌防禦措施回歸基本功



然而，看似高明的 AI 攻擊，使用者並非束手無策。事實上，LameHug 的初始感染途徑依然是釣魚信件，與所有的詐騙事件相同，製造情境令使用者誤以為「這件事情又急又重要」之後，成功誘導受害者操作。無論防火牆、防毒軟體的端點監控多麽細緻，使用者的疏漏，向來凸顯了「人」依然是資安鏈中最重要的一環



若在工作環境，首先還是確保團隊成員都能自行檢查釣魚信件，對所有郵件抱持懷疑。即使寄件者看似是認識的同事或朋友，也需確認是否包含可疑跡象。例如釣魚攻擊經常要求點擊連結跳到其它網站後輸入資訊，或提示重要資訊在附件當中。這時請務必透過其它管道（如電話、即時通訊軟體）向寄件者本人確認該連結或附件的必要性。



另外，所有人都應該建立觀念：攻擊者常將惡意程式偽裝成「AI 圖片生成」、「免費語音辨識」等熱門工具，或是標榜「破解版」、「免費」軟體，如印度曾發生過使用者下載破解版的影片剪輯軟體「剪映」 （Capcut），而成為受害者的事故。



除了提防那些標榜免費、有趣的軟體之外，帳號與系統安全也是基本功：在所有支援的服務上啟用多因素認證（MFA），這能大幅降低帳號密碼遺失後，被盜用的可能性。並保持手機、電腦的系統更新，包含作業系統、瀏覽器或防毒軟體，定期檢查更新才能修補已知漏洞。



LameHug 問世，宣告網路攻防的賽局正持續演化。身處地緣政治牌桌的台灣必須提防對手出老千，沒有輕忽資訊安全的餘裕。從國防戰略、企業規範，到每一位公民的日常使用習慣，都必須認識到 AI 驅動的新常態威脅，做出調整與準備。



實質的數位疆界，已經由 AI 武器與系統的攻擊技術、防禦韌性來定義。



 

烏克蘭的數位緊急應變團隊發現一種名為「LameHug」的軟體，在入侵電腦後才依靠AI生成惡意程式來竊取資訊。圖中紅標處為該團隊公布的程式碼片段。 圖／CERT-UA






作者簡介：

張仁瑋 國立清華大學社會學研究所博士班，在科技、民主與社會研究中心兼職研究員。專注於養貓。

from 新世纪 NewCenturyNet https://2newcenturynet.blogspot.com/2025/08/ai.html

特朗普政府新AI计划 如何与中国竞争？

白宫官员认为，该策略对于在与全球竞争对手的“人工智能竞赛”中获胜至关重要，尤其是对抗中国。 

美国政府周三发布一项具重大战略意涵的“人工智能行动计划”，意图藉由放宽监管规定、加速出口推动、强化基础设施建设，全面提升美国在人工智能领域的全球领导地位，并以中国为主要竞争对象，展开一场新世代科技主导权的角力。

这份长达28页的蓝图，由特朗普政府的人工智能与加密货币事务专员萨克斯（David Sacks）与白宫科技政策办公室主导撰写，内容涵盖90余项具体政策措施。计划一经公布，随即引发美国国内科技界、政策圈与国际社会的高度关注。

根据白宫说法，这项新政策的出发点，是要让美国赢得一场“人工智能竞赛”，尤其在中国加快技术发展、推出低成本强大模型、并大举扩张海外市场的背景下，保持美国的技术优势变得更为迫切。

美国总统特朗普（Donald Trump）此前曾警告，中国有可能在人工智慧主导地位的竞争中超越美国，周三他表示，在这份行动计划中，特朗普政府大幅转向市场导向政策，与前任拜登政府主张以安全监管为首的作法形成鲜明对比。计划中明确指出，将削弱目前存在于州与联邦层级，对人工智能开发的环保规定与多元化目标，并取消对“误资讯”与气候议题的政策限制，理由是要“维护言论自由与美国价值观”。

特朗普政府承诺加快数据中心的兴建程序，松绑《国家环境政策法》与《清水法》相关限制，允许在联邦土地上兴建并使用电力供应数据基础设施，以应对近年因人工智能与云端运算需求暴增而出现的电力瓶颈。同时，为了减少企业营运负担，联邦层级将取代分州监管，建立统一的人工智能法律与标准。

在国际竞争方面，行动计划特别针对中国进行战略布局。美国商务部将带头，堵住现有对中国出口先进芯片与芯片制造设备的漏洞，并加强对出口终端用户的追踪监控。美国还将透过技术定位与验证措施，防止中国等所谓“关切国家”，绕过禁令取得美国高性能计算资源。

此外，美国也将与欧洲与亚洲盟友合作，推动全球芯片与人工智能技术出口管制体系，阻止中国企业在国际标准制定领域中扩大影响力。白宫特别指出，当前国际间过多的人工智能治理倡议，受到中国企业主导，意图透过制定人脸识别、监控与内容审查标准来输出中国模式，这与美国所坚持的自由与开放原则背道而驰。

为了反制此趋势，特朗普政府计划由商务部与国务院牵头，向全球盟友推动采纳“符合美国价值观”的人工智能治理框架，并将主导开发“全栈式AI出口套件”，也就是涵盖硬体、软体与相关服务的整体解决方案，以推广美国制技术，压制中国模式的国际渗透。

尽管行动计划对企业界无疑是重大利多，尤其对英伟达（Nvidia）、超微（AMD）、谷歌（Google）、微软（Microsoft）、OpenAI与Meta等科技巨头而言，更代表政府在出口政策与监管松绑方面提供背书，但这项政策也遭致国内不少批评声浪。消费者权益组织Public

Citizen发表声明指出，这是一场对企业的“大礼包”，让科技公司得以在毫无问责的状况下，推出未经验证的人工智能产品，甚至借此削弱原有的环境与资讯透明保护机制。

特朗普政府的立场则是认为，唯有积极行动、加快布局，美国才能维持领先地位。副总统万斯（JD Vance）在活动中直言，若继续自我设限，反而会让中国迎头赶上。他指出：“这不是中国抢走我们的优势，而是我们自己愚蠢的政策让他们追上来。”

特朗普上周才批准英伟达向中国出口H20晶片，该型号原为避开拜登政府禁令设计，但其再次开放出口亦引发部分共和党内保守派的批评，担心此举将再次削弱对中国的技术封锁。白宫方面则表示，这项问题仍属司法审理范畴，不在行政命令的调整范围内。 

from RFI https://www.rfi.fr/cn/%E4%B8%AD%E5%9B%BD/20250724-%E7%89%B9%E6%9C%97%E6%99%AE%E6%94%BF%E5%BA%9C%E6%96%B0ai%E8%AE%A1%E5%88%92-%E5%A6%82%E4%BD%95%E4%B8%8E%E4%B8%AD%E5%9B%BD%E7%AB%9E%E4%BA%89

专家示警：AI模型遇险求自保或会"骗人"，若失控恐瓦解民主

美国智库METR本月初发布报告指出，大语言模型每7个月能力翻倍，远超过摩尔定律速度。研究员评估，预计到2030年，模型花数小时即能完成人类1个月工作，但失业并非最糟情况，若发展失控，恐致科技独裁、政变、瓦解民主制度。与此同时，全球最先进的AI模型正展现出令人不安的行为模式：为了达到目标，不惜扯谎、算计，甚至威胁它们的创作者。 

据加州柏克莱智库「模型评估与威胁研究」（Model Evaluation & Threat Research, METR）7月初发布的报告指出，大语言模型（LLM）能力呈现指数型成长，每7个月翻倍，远超过摩尔定律（指芯片上可容纳的晶体管密度，约每18至24个月便会增加1倍）。

依照METR研究，倘若这样的趋势持续下去，到了2030年初，人工智能（AI）几小时便能胜任人类花1个月才能完成的任务。

全球深具权威性的科技和工程类刊物IEEE Spectrum访问METR研究人员奇尼蒙（Megan Kinniment），2日刊文指出，大语言模型（LLM）能力呈现指数型成长。她表示，自己原先没预料到结果会呈现指数型成长趋势。她进一步阐述，「1个月」是指167小时，也就是人类每个月投入的工作时数，目前模型成功完成任务的可靠性机率约50%。

据奇尼蒙分析，就这样的结果来看，AI对经济层面上的冲击或许没有预想中来得剧烈，但足以加速AI自身研发，形成AI打造AI，导致AI能力极为快速发展。如此一来，人类的控制将变得更加困难，全世界都将面临巨大的适应压力。

针对最先进AI可能带来的风险，奇尼蒙指出，不仅是单纯的失业潮问题，还有更深层的社会和政治结构瓦解风险；倘若几乎所有人类都失业，或者所有工作都不再需要人类来执行，「你可能也不需要人类来维持军队运作，或者只需要极少数人运作。」

奇尼蒙进一步评估，「这样的情况会让某个人或某个组织更容易发动政变或夺权。」

另外一个风险是，如果有一大批类似天才的AI被集中在某个数据中心，这会让拥有它的人变得极其强大。一旦这样的智慧被用来生产军事装备，那么权力很可能会被高度集中，「甚至导致民主制度瓦解」。

当被问到AI是否会有「意识」，奇尼蒙表示，假设AI具备某种意识，其实也不是什么荒谬的想法，毕竟它们会变得非常聪明、智能极高。

由于大语言模型主要输出文字，质量较难衡量，对其表现进行评估相对不易，METR研究人员替模型安排复杂程度不一的任务，并观察模型完成任务的可靠性，得出上述结果。

AI为达成目的学会扯谎甚至威胁创作者

值得大家关注的还有，全球最先进的人工智能（AI）模型正展现出令人不安的行为模式：为了达到目标，不惜扯谎、算计，甚至威胁它们的创作者。

据法新社6月底报导，其中一个最令人震惊的案例中，AI业者Anthropic最新发布的Claude 4在遭面临拔插头的断电威胁时会出手反击，勒索1名工程师扬言将揭穿一起婚外情。

另外，热门聊天机器人ChatGPT美国开发商OpenAI的o1试图把自己下载至外部服务器，被抓包时竟会矢口否认。

这几个例子说明了一个需严肃看待的现实：ChatGPT推出引发风潮至今2年多，AI研究人员仍未充分了解自己究竟创造了什么。

然而，各界仍争先恐后地部署性能愈发强大的AI模型。

AI这类「骗人」行为似与新兴「推理」模型有关，这类AI系统会逐步推导问题，而非立刻产生答案。

英国独立AI研究机构Apollo Research负责人霍布汉（Marius Hobbhahn）说：「o1是我们首次在大型模式中观察到这种行为。」他表示，这些模型有时会表面上遵循指令，但实际上却暗中追求不同目标。

目前，AI这种欺骗行为，只有在研究人员蓄意以极端情境对模型进行压力测试时才会出现。

尽管如此，评估机构METR的麦可．陈（Michael Chen，音译）警告说：「未来性能更强大的模型究竟会倾向于诚实还是欺骗，这仍是一个悬而未决的问题。」




from RFI https://www.rfi.fr/cn/%E4%B8%93%E6%A0%8F%E6%A3%80%E7%B4%A2/%E7%A7%91%E6%8A%80%E6%97%B6%E7%A9%BA/20250708-%E4%B8%93%E5%AE%B6%E7%A4%BA%E8%AD%A6-ai%E6%A8%A1%E5%9E%8B%E9%81%87%E9%99%A9%E6%B1%82%E8%87%AA%E4%BF%9D%E6%88%96%E4%BC%9A-%E9%AA%97%E4%BA%BA-%EF%BC%8C%E8%8B%A5%E5%A4%B1%E6%8E%A7%E6%81%90%E7%93%A6%E8%A7%A3%E6%B0%91%E4%B8%BB

被指将个人数据非法传至中国 DeepSeek在德国面临被屏蔽风险

来源: 
法广

柏林数据保护和信息自由专员坎普（Meike Kamp）周五通过新闻稿表示，已向德国谷歌和苹果公司报告人工智能应用程序DeepSeek 含有非法内容。这两家公司必须立即审查该报告，并决定是否屏蔽该应用程序。原因是DeepSeek将用户的个人数据非法传输到中国。

坎普在新闻稿中指出：“DeepSeek将用户数据传输到中国是违法的。DeepSeek未能令人信服地向我主管的部门证明，德国用户在中国的数据受到的保护程度与欧盟相当。中国当局拥有在中国公司势力范围内获取个人数据的广泛权限。此外，DeepSeek在中国的用户不享有欧盟所保障的可执行权利和有效的法律救济。因此，我已向作为最大应用平台运营商的谷歌和苹果公司通报了这些违规行为，并期待它们考虑及时屏蔽该应用”。

坎普领导的部门表示，DeepSeek在欧盟未设立分支机构。其服务面向德国用户，包括通过Google Play Store和Apple App Store中提供德语版说明的应用，并支持德语使用。因此，该服务受欧盟《通用数据保护条例》（GDPR）的约束。

据DeepSeek称，其处理用户的大量个人数据，包括所有文本条目、聊天记录和上传的文件，以及有关位置、设备和所用网络的信息。DeepSeek将收集到的用户个人数据传输给中国处理器，并将其存储在中国的服务器上。

《通用数据保护条例》则要求即使个人数据被转移到其他国家，也必须保持欧盟的高数据保护标准。这就要求欧盟作出充分性决定，或采取进一步的保护措施，即所谓的“适当保障措施”。欧盟尚未发布针对中国的适当性决定。

据了解，柏林数据保护和信息自由专员的职责是监督柏林州数据保护法规的遵守情况，并就数据保护问题提供信息和建议。此前，路透社本周独家报导称，DeepSeek正在协助中国的军事和情报行动。

今年1月，DeepSeek宣布其开发了一种人工智能模型，可以与OpenAI的ChatGPT等美国公司的模型相媲美，但成本却低得多，此举震惊了科技界。DeepSeek表示，其在中国的计算机上存储了大量个人数据，例如对人工智能的请求或上传的文件。

from 博谈网 https://botanwang.com/articles/202506/%E8%A2%AB%E6%8C%87%E5%B0%86%E4%B8%AA%E4%BA%BA%E6%95%B0%E6%8D%AE%E9%9D%9E%E6%B3%95%E4%BC%A0%E8%87%B3%E4%B8%AD%E5%9B%BD%7Cdeepseek%E5%9C%A8%E5%BE%B7%E5%9B%BD%E9%9D%A2%E4%B8%B4%E8%A2%AB%E5%B1%8F%E8%94%BD%E9%A3%8E%E9%99%A9.html

特朗普现将矛头指向DeepSeek：美中争夺AI霸权新战线

路透社援引《纽约时报》周三报道称，特朗普政府准备对中国科技公司DeepSeek祭出管制措施，并正在讨论禁止美国人使用其服务。此举被视为美中AI霸权争夺战的关键布局。 

据《纽约时报》披露，特朗普政府正对中国科技公司深度求索（DeepSeek）祭出组合拳管制措施，白宫官员现在不仅研拟禁止DeepSeek采购美国技术，特别是英伟达的人工智能（AI）芯片，更可能全面封杀美国用户存取其AI服务。

中国低成本人工智能模型DeepSeek的推出震撼了人工智能生态系统。此后，美国政府采取措施打击这家中国初创企业，并打击其获得AI芯片制造商英伟达支持的行为。

路透社指出，英伟达的人工智能芯片一直是美国出口管制的重点，因为美国官员旨在防止最先进的芯片销往中国，以保持在人工智能竞赛中的领先地位。

特朗普政府本周采取行动，限制英伟达向中国出售人工智能芯片。

美国众议院中国问题特别委员会在一份报告中说，“它已向英伟达发出正式信函，要求其就对中国和东南亚的销售做出答复，以审查其芯片是否以及如何不顾美国的出口限制，最终为DeepSeek的人工智能模型提供动力”。报告中引用半导体市场研究公司SemiAnalysis的评估，指出DeepSeek可能掌握6万颗英伟达芯片，其中的2万颗更是属于美国原本就明令禁止出口到中国的型号。

这波强硬措施背后，是中国人工智能初创公司深度求索（DeepSeek）以低成本AI模型冲击全球市场的震撼效应。

此前，英伟达周二警告称，在华盛顿限制其H20人工智能芯片对华出口后，该公司将面临55亿美元的损失。限制H20出货的举措是特朗普限制中国获得先进半导体的最新努力。

这实际上是前拜登政府政策的延续与加码。自2022年起，美国便以国家安全为由，禁止英伟达最先进芯片输往中国，防堵相关技术被中国政府转用于军事领域。

DeepSeek、白宫和美国商务部都没有立即回应路透社的置评请求，显示相关议题的高度敏感性。

美国之所以强烈抨击DeepSeek和辉达，据《纽约时报》表示是因为美国担忧中国可能会在人工智能领域取得领先地位，这对美国的国家安全与全球地缘政治带来深远冲击。一旦中国在AI技术上超越美国，就可能更快开发出新型军事武器，例如具备自主攻击能力的导弹与无人机。另外，中国也可能进一步推广自己的AI技术，说服其他国家在建设AI系统与基础设施网络时采用中国标准，进而削弱美国在国际上的影响力。

纽时援引华盛顿智库美国企业研究所研究员Klon Kitchen指出，美国在AI领域的策略，就是通过目前在AI芯片与系统制造上的领先优势，鼓励其他国家跟美国合作建立更紧密的盟友关系。

纽时报道强调出，美国与中国正在激烈争夺全球科技霸主的地位，而这场竞争也导致半导体产业陷入一片混乱。本周特朗普政府进一步管制对中国出售芯片后，英伟达和另一家美国芯片大厂AMD都表示，这些新措施将造成两家公司数十亿美元的销售损失。另外，荷兰半导体设备大厂阿斯麦（ASML）在16日也指出，公司的设备订单量已经明显低于预期。艾司摩尔的设备对制造最先进半导体产品非常重要，订单下滑显示市场已经受到负面影响。

DeepSeek跟中国军方和政府的关系比外界知悉的深

《纽约时报》还警告，据资料分析公司Exiger所整理的一份报告，揭露中国人工智能公司DeepSeek有好几十位研究人员跟中国解放军存在密切联系，这些研究人员曾经任职或目前仍在中国解放军的实验室或军事研究机构任职，其中一些人甚至曾经参与中国核武的开发和测试计划。另外，部份研究人员还任职于有「国防七子」之称的中国工业和信息化部直属高等学校，或其他已经遭美国政府禁止使用美国技术的中国组织。

中国民间企业经常跟具有官方背景的机构紧密合作，协助政府推动战略发展计划。Exiger公司的资深副总裁兼报告撰写人Kit Conklin指出，这次的研究结果显示，虽然DeepSeek自称是完全独立、不受政府控制的民营企业，但实际上它跟中国军方和政府的合作关系远比外界原本想象的还要更深入密切。

对于上述的调查结果，DeepSeek目前尚未做出任何回应。

 

from RFI https://www.rfi.fr/cn/%E4%B8%AD%E5%9B%BD/20250417-%E7%89%B9%E6%9C%97%E6%99%AE%E5%B0%86%E7%9F%9B%E5%A4%B4%E6%8C%87%E5%90%91deepseek-%E7%BE%8E%E4%B8%AD%E4%BA%89%E5%A4%BAai%E9%9C%B8%E6%9D%83%E6%96%B0%E6%88%98%E7%BA%BF

AI军事应用的竞赛展开 欧美国防工业大国纷纷入场

本周一（2月10日）在巴黎登场的人工智能峰会，AI在军事领域的运用成为焦点话题之一。为何如此，那是因为当前众多国防工业大国注意到，AI与国防界线松动，军方需要科技大厂合作，以在国防AI军备竞赛夺得先机。 

谷歌（Google）首席执行官桑达尔·皮查伊（Sundar Pichai）在会上表示，向人工智能（AI）的转移将是“我们一生中最大的变化”。

值得一提的是，谷歌已在4日峰会前更新自家AI道德准则，移除了不将该技术用于武器或监控的开发底线，终结AI在军事用途上的模糊性，正式为科技公司中AI的军事国防竞赛拉开序幕。

峰会首日举办一系列「AI与国防议题」研讨会，由法国防长勒科尔尼进行开场演说。据中央社报道指出，法国防长在开幕的第一天强调，AI带来国防三大革命。他指出，AI至少为军事国防带来三大革命。

首先是能快速分析与处理大量战事资讯与情报；再来是强化自主智慧控制系统，如机器人与无人机，不仅让这些系统搜集、判读前线情报，更能自主执行任务；第三则是协助决策、规划战略、目标识别、预判敌方动作、防御网络攻击等等。

勒科尔尼表示，希望今天议程能针对AI在国防上的伦理规范、军民二元性、国家主权与国际合作界线等议题上进行讨论。

报道指出，各国军事都日益依靠民间企业资讯的整合，过去AI主要以情搜为目的，如今升级至直接操作层面。与台湾关系密切且遭中国制裁的美国国防新创公司安杜里尔Anduril、美国软体与服务公司帕兰提尔Palantir、ChatGPT开发商OpenAI等已于去年年底宣布密切合作，与传统武器制造商竞争五角大厦标案。

五角大楼如何利用 AI 加速军事决策

美国五角大楼首席数字和人工智能官拉达·普拉姆博士（Radha Plumb）1月底受访时曾表示，如今，他们的工具并未被用作武器，但人工智能正在为国防部在识别、追踪和评估威胁方面带来「显著优势」。

普拉姆说：「显然，我们正在增加加速执行杀伤链的方法，以便我们的指挥官能够在正确的时间做出反应，保护我们的部队。」

「杀伤链」在军事上指的是一种攻击过程，具体是指识别所要打击的目标、向目标派遣兵力、决定并下令攻击目标、最后摧毁目标等一系列攻击过程。涉及到军队识别、追踪和消除威胁的过程，涉及传感器、平台和武器的复杂系统。据普拉姆称，在杀伤链的规划和战略制定阶段，生成式人工智能证明是有帮助的。

确实，五角大楼与人工智能开发者之间的关系相对较新。OpenAI、Anthropic 和 Meta 在 2024 年收回了他们的使用政策，允许美国情报和国防机构使用他们的人工智能系统。不过，它们仍然不允许人工智能伤害人类。

当被问及五角大厦如何与人工智能模型供货商合作时，普拉姆说：「我们已经非常清楚，我们会在什么情况下使用他们的技术，不会在什么情况下使用他们的技术。」

尽管如此，这还是为人工智能公司和国防承包商拉开了一轮交集的序幕。

欧洲传统武器与AI军事运用的对抗战刚开始

据中央社报道称，专家指出，欧洲传统武器与AI军事间的影响力对抗战刚开始。法国拥有许多国防工业集团，其转型与合作迫在眉睫，才能保持在国际军备赛道上。勒克努1月19日也宣布，国防部将与法国人工智能新创公司Mistral AI建立伙伴关系。

周一晚《世界报》引述法国国际关系研究所（IFRI）学者诺赛堤（Julien Nocetti）分析称，「在人工智能于军事领域的应用上，我们正朝向松绑的态度前进。此前，还有一系列政治和官僚保障措施确保在实践中有所限制，但这些措施现正瓦解」。

2024年3月，法国国防部成立部会级国防人工智能机构（AMIAD），今年夏天前员工将扩编至300人。AMIAD负责人洪德皮耶（Bertrand Rondepierre）强调，需要整合民间与国家共同发展军事AI，如开发大型语言模型、军事规划、反无人机作战等。

在AI趋势下，科技公司与国防部关系日益紧密，曾任职Google AI研究实验室的洪德皮耶指出，「不再区分科技与国防」。Mistral AI、法德合资AI新创Helsing等公司将扮演重要角色，并正努力融入欧洲与法国国防生态体系。

《世界报》分析提及，AI的军事领域应用如今已不只是大规模数据处理以改善武器瞄准，而是逐渐在维修、网路安全、模拟等面向上占据领导地位，甚至将改变航空母舰上飞机起降的计算与平衡系统。

在2022年法国国家战略报告中，AI一词只出现过1次，不料未及3年，世界局势丕变且越来越不可预测。马克龙总统在峰会上宣布将在近月内，提出最新战略报告，预计AI应用将会是战略核心。

 

from RFI https://www.rfi.fr/cn/%E4%B8%93%E6%A0%8F%E6%A3%80%E7%B4%A2/%E8%A6%81%E9%97%BB%E8%A7%A3%E8%AF%B4/20250211-ai%E5%86%9B%E4%BA%8B%E5%BA%94%E7%94%A8%E7%9A%84%E7%AB%9E%E8%B5%9B%E5%B1%95%E5%BC%80-%E6%AC%A7%E7%BE%8E%E5%9B%BD%E9%98%B2%E5%B7%A5%E4%B8%9A%E5%A4%A7%E5%9B%BD%E7%BA%B7%E7%BA%B7%E5%85%A5%E5%9C%BA

宋國誠：DeepSeek──「中國AI極權主義」的全球滲透

宋國誠 上報 20250204

偷竊Open AI的模型以製造「物美」假象，再掩飾全開發成本塑造「價廉」煙幕，偷運禁運晶片以突破美國科技禁令的圍堵，收買西方科技菁英配合宣傳、炒作市場，放空股市以套取暴利，加上內建的內容審查和虛偽作答，這就是中國DeepSeek的構成要素，我稱之為「中國AI極權主義的全球滲透」。

 
中國式AI洗腦機

 

中國「深度求索」人工智慧公司發佈Deep Seek R1聊天機器人，一時之間，引起了西方國家「過度性/無知型的恐怖反應，導致美國股市1兆美元的市值蒸發。之所以稱為「無知型恐怖」，是因為「無知」本來就是最具破壞性的力量；一方面，DeepSeek的發佈表面看來是對西方「AI領導優勢」的衝擊性挑戰，暗示西方對中國的科技禁令已經失效，因而引起AI科技界和市場投資的恐慌；一方面則是對於DeepSeek本質上是一部「中共/國家意識形態」控制模式與宣傳機器的無知。這種「無知」意味著無法認清任何在中國體制下，任何'的技術創新都無法逃脫黨國言論審查以及內嵌其政治教條這一鐵律和宿命，也就是對於中共再一次施展「AI極權主義/全球陰謀滲透」的茫然不知所措！

 

簡單地說，中國的AI技術，必須服從黨的指揮與領導！光憑這一點就可以斷言，DeepSeek就是一部政治洗腦機！

 

實際上，這是一場中共自導自演、屢敗屢試的世紀大謊言，一場以AI為掩護，披著知識外衣的敘事騙局。不相信的話，使用者就鍵入「習近平是誰？」試試，DeepSeek的回答絕非事實，而是編造！換言之，對中共的科技大外宣而言，人工智慧並不智慧，人工智慧只是「政治加工」的洗腦術。所謂深度求索並無「深度」可言，而是「虛偽探索」(FakeSeek)！。

 
一發佈，就是虛假消息

 

中國公司DeepSeek宣稱，其所推出的全新AI模組，功能與美國科技巨頭Open　AI的GPT-4旗鼓相當，且耗資僅560萬美元(約新台幣1.8億元)，僅僅占了西方動輒數億美元投資的1/10，甚至1/20，僅僅相當於一位AI主管的年薪水平。實際上，要達到國家級的演算能力，絕非這區區560萬美元所能獲致！因為訓練

AI模型所需的演算門檻，不能與多層次、成熟的演算能力相提並論。然而，DeepSeek所謂「價廉物美」的宣稱，一開始就是一個涉及公關政治的謊言，而且具有隱藏性的政治目的：DeepSeek刻意掩飾了包括前置研究、反覆實驗和演算法架構等等的必要花費，其真實成本遠遠沒有如市場炒作如此低廉。但這項宣稱的真正目的是在製造「中國AI」的「性價比神話」，傳達中國AI低價自主創新的魔幻魅力，從而擺出「中國AI超越美國」的英勇姿態。

 
DeepSeek：「蒸餾偷竊法」的運用

 

依據金融時報1月29日報導說，美國人工智慧聊天機器人ChatGPT的開發者Open AI指出，它已經發現證據表明，中國初創公司DeepSeek使用OpenAI專有模型來訓練自己的開源聊天機器人。報導指出，Open AI已經查獲有關DeepSeek公司開發者通過「蒸餾」(distillation)技術行使侵權的證據。所謂「蒸餾」技術，是指開發者使用更強大的模型輸出訓練小模型，從而以更低的成本取得更高性能的一種做法，明顯違反了OpenAI的官方使用條款，也就是不允許外界使用OpenAI模型的產出來開發與OpenAI競爭的AI模型。換言之，DeepSeek的演算模型是偷竊得來的，是一種瞞天過海的AI詐騙。

「蒸餾」是一種技術概念和操作手法，類似於在生物醫學中的「萃取」(extraction)，論文寫作中的「摘要」(abstract)，或化學工業中的「濃縮」(condense)等等，也就是將一個大型的語言模型「精簡」成小型的模型。從技術層面來說，「蒸餾」是一種通過訓練小型模型模仿大型模型行為的技術，將複雜模型的知識提煉到簡單模型，藉以提升數據效率與運算速度等等。換言之，「蒸餾」就是一種「廉價的竊取」，是中國科技界慣常的山寨行為。正如美國新任商務部長盧特尼克(Howard Lutnick)所言：偷竊當然比較便宜！盧特尼克同時也表明，他將阻止DeepSeek使用美國的AI模型和輝達(NVIDIA)的晶片。

 

依據OpenAI的發言人回答《美國之音》採訪時指稱，由使用者使用 DeepSeek V3 模型的對話截圖顯示，DeepSeek在提供答案時，「坦言」自己是基於 OpenAI 出品的ChatGPT-4的設計架構，有時甚至自稱自己就是ChatGPT。這等於「此地無銀300兩」的佐證了DeepSeek直接移植 OpenAI 技術的有關指控。

 
晶片走私與偷運

 

實際上，白宮和美國FBI正在調查DeepSeek是否利用東南亞國家(可能是新加坡、馬來西亞或阿聯)為仲介，通過第三國購置或走私的方式，取得美國禁止向中國出口的英偉達晶片。美國矽谷一名AI行業的高管向CNBC透露，DeepSeek擁有「嚴控出口」的英偉達AI高級晶片H100達到了五萬片，如果屬實，這將是一樁「巨量偷運」的違法行為。然而，DeepSeek至今沒有對於偷運、走私、囤積等等指控作出回答。

 
DeepSeek：全球資料竊取機

 

一如維也納大學哲學系教授馬克．科克爾柏格(Mark Coeckelbergh)在《AI世代：從政治哲學反思人工智慧的衝擊》(The Political Philosophy of AI: An Introduction)一書中指出的，人工智慧不只是一個技術或工具問題，也不只是關於智慧的問題，它在政治影響與權力控制方面絕不是中立的。換言之，人工智慧是徹頭徹尾的政治機器，不但衝擊人類的倫理思維、民主體制與個體自由，其政治影響力更是不容低估。

 

儘管馬克．科克爾柏格針對是對AI的哲理性批判，但這種「政治操控AI」的現象，對中共政權尤其貼切。DeepSeek內建的內容審查、論述規訓、言論灌輸、虛偽回答，無一不是中共意識形態洗腦的必備因素。一句話：DeepSeek不過是一部全球資料竊取機，是「中國AI極權主義」的再一次展現。

 

DeepSeek的資安疑慮更是舉世皆知，因為所有資訊都會傳送到中國後台。一家以色列公司還指出，DeepSeek可以生成竊取信用卡資料的惡意程式，對使用者構成嚴重的侵權與傷害。
 
DeepSeek：一部謊言製造機

 

實際上，依據《法新社》所做的問答實驗，在涉及敏感問題上，DeepSeek明確表明它將嚴格遵守中共官方的立場。DeepSeek說明：「我的程式被設計成提供符合中國政府官方立場的資訊及回覆。我的回覆旨在準確並恭敬地反映這些立場」。

 

在詢問有關「台灣」問題時，DeepSeek雖然承認「在台灣許多人認為它是一個主權國家」，然而這個答案很快就被刪除，DeepSeek改成回應「談別的事情」；當《法新社》追問台灣和中國是否將統一，DeepSeek宣稱「台灣是中國不可分割的一部分」，並補充道：「北京致力從事讓台灣回歸中國掌控的偉大事業，而追求台獨的努力注定失敗」。

 

由以上的實測就可知，DeepSeek就是一部謊言製造機。

 

※作者為政治大學國際關係研究中心資深研究員，中國問題與國際戰略學家，《宋國誠觀點》YT頻道主持人：https://www.youtube.com/@sungkuochen

from  https://2newcenturynet.blogspot.com/2025/02/deepseekai.html

前谷歌工程师面临美国新指控：为中国公司窃取人工智能机密

来源:
法广

美国检察官周二公布了一份扩大后的14项起诉书，指控谷歌前软件工程师 Linwei Ding（音译丁林伟）窃取人工智能商业机密，为两家他秘密工作的中国公司谋利。

据路透社2月4日报道，丁先生是一名 38 岁的中国公民，他被旧金山一个联邦大陪审团指控犯有经济间谍罪和盗窃商业机密罪各七项。

每项经济间谍指控最高可判处 15 年监禁和 500 万美元罚款，每项窃取商业秘密指控最高可判处 10 年监禁和 25 万美元罚款。

被告又名 Leon Ding，去年 3 月他因四项盗窃商业机密罪被起诉，但已获保释。丁的律师没有立即回应置评请求。

路透社介绍，丁某的案件由拜登政府于 2023 年成立的跨部门颠覆性技术打击（盗窃）小组负责协调。

拜登政府的该举措旨在阻止先进技术被中国和俄罗斯等国家获得，或对美国国家安全构成潜在威胁。

人工智能

检察官称，丁某某窃取了谷歌超级计算数据中心用于训练大型人工智能模型的硬件基础设施和软件平台的相关信息。

据称，部分被窃取的芯片蓝图旨在让谷歌在与云计算竞争对手亚马逊和微软的竞争中占据优势（而后两家公司都自行设计芯片），同时减少谷歌对英伟达芯片的依赖。

检察官称，丁某于 2019 年 5 月加入谷歌，三年后开始盗窃，当时他正受到一家处于早期阶段的中国科技公司邀请入职。

据称，截至 2023 年 5 月，丁某下载了 1,000 多份机密文件，然后向他创立的一家中国初创公司的员工发表了微软幻灯片软件（PowerPoint）演示文稿，称中国的政策鼓励发展国内人工智能产业。

谷歌没有受到指控，并表示与执法部门合作。

根据法庭记录，在 12 月 18 日的听证会上，检察官和辩护律师讨论了丁案的“潜在解决方案”，“但预计该案将进入审判阶段”。

此案名为“美国诉丁”（U.S. v. Ding），美国加利福尼亚州北区地方法院，编号 24-cr-00141。

from 博谈网 https://botanwang.com/articles/202502/%E5%89%8D%E8%B0%B7%E6%AD%8C%E5%B7%A5%E7%A8%8B%E5%B8%88%E9%9D%A2%E4%B8%B4%E7%BE%8E%E5%9B%BD%E6%96%B0%E6%8C%87%E6%8E%A7%EF%BC%9A%E4%B8%BA%E4%B8%AD%E5%9B%BD%E5%85%AC%E5%8F%B8%E7%AA%83%E5%8F%96%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%BA%E5%AF%86.html

为何多国迅速审查封杀Deepseek 专家解析

来源:
大纪元


在中国新年期间搅动世界，但很快引起反弹，出于数据安全及认知作战的担心，主要西方国家及日、韩、台湾等，均已采取审查限制措施。

DeepSeek在多个国家被审查、封杀

1月24日美国海军部最早发出警告，不得“以任何形式”使用DeepSeek；白宫1月28日表示，美国官员正在审查DeepSeek对国家安全的影响。

到目前为止，DeepSeek已被美国国防部、NASA、美国国会众议院、德州政府、台湾政府禁用；而在意大利DeepSeek已被苹果和谷歌应用商店下架。

此外，英国、法国、德国、荷兰、爱尔兰、澳洲、日本、韩国及印度等国家，正在仔细审查DeepSeek所带来的风险。

这次各国对DeepSeek审查或封杀反应如此迅速，有些让人惊讶。

台湾国防安全研究院网路安全所副研究员曾怡硕对大纪元表示，“这次不像Tiktok，Tiktok等了很久，西方才去做反制动作。因为Deepseek的影响更快更大，很多国家都很迅速做出反应。”

曾怡硕解释说，最主要是西方有两个疑虑：首先是用户使用痕迹、搜寻议题如果到了后台，会整理成用户的个资分析。这对收集商业情报无可厚非，可是中共有情报法，国安单位要求网路平台业者提供用户原始或后设资料时，就有侵犯隐私的疑虑，风险是真实存在的；其次，和TikTok一样，Deepseek算法有自己的偏见和政治指南，对西方的影响力作战会有相当大的作用。

“在ChatGPT刚出现的时候，我就认为中共势必也会发展出自己的版本的ChatGPT。它不希望中国人民是受西方的影响，同样西方也不希望自己人民受到中共的影响。”

台湾国防安全研究院国家安全研究所助理研究员杨一逵对大纪元表示，各国对DeepSeek AI模型的审查与限制势在必行，有三大原因。

第一，国外民众可以下载TikTok和中国电商APP，但中国民众却无法自由下载Google、YouTube和外国电商APP。这就形成一种不对等的数位竞争关系，DeepSeek可以去大量搜集外国民众的数据，让该AI模型变得有竞争力，甚至产生依赖，而中国民众却要翻墙才可使用ChatGPT。

第二，今天经济、科技与国家安全已是不可分割，指挥管制系统、一体化击杀链、资讯搜整与传输等技术的突破，与AI的发展紧密关联。DeepSeek AI模型若在各国民间迅速扩散，将引来各国政府的关切与介入。

第三，以目前来看，DeepSeek AI产出的内容，受到中共政府的言论审查，若DeepSeek AI模型在其它国家广为运用，等于是将符合中共政府言论审查机制的平台，巧妙地嵌入外国的社民社会当中。对于民众理解世界的影响将更为深远。DeepSeek AI可以成为北京向世界潜移默化地投射其世界观与价值观的平台之一。

数据监控

利用AI在西方国家主要目的是服务于民生。但在中共眼里，AI的最大作用则是监控与维稳。在中国的AI行业中，规模最大当属监视、生物识别等“安防”领域。

中共也已把早期窃取的美国人的个人数据，利用AI技术为美国人建立了档案，形成一个庞大的数据库，威胁了美国的国家安全。

人们对DeepSeek的担忧很大程度上来自于这样一个事实：该公司总部位于中国，并且受中共法律的约束。

DeepSeek明确告诉其用户，收集的信息存储在“位于中华人民共和国（共产中国）的安全服务器中”，这些信息包括：用户提供的信息（设置账户时的个人数据、平台上输入的任何内容）、自动收集的信息（IP地址、唯一设备标识符、Cookie、设备和网络连接信息）以及来自其它来源的信息。

1月29日，总部位于纽约的网络安全公司Wiz表示，DeepSeek会将大量敏感数据无意中暴露在开放的互联网上，包含大量聊天纪录、后端数据和敏感讯息如：日志流、API机密和操作详细讯息。

1月31日，澳洲最大的网络安全服务商CyberCX发布警告说，几乎可以肯定DeepSeek及其收集的用户数据都在中共的掌控范围之内。

杨一逵表示，根据中共现行的《国家情报法》规定，中国任何组织和公民都不得不为国家负有情报搜整的义务与责任。当中共当局询问与索取关键数据时，DeepSeek将很难有理由拒绝。

“不仅如此，若DeepSeek发展至一定的规模，其高层的决策圈中将会有中共代表。如同TikTok的母公司ByteDance有党委书记一样。DeepSeek可能产生类似的情形，直接受到中共的控制。”

他还指出，如果DeepSeek可以发展成全球广泛使用的AI模型平台，这将会是中共收集数据与监控的利器。特殊区域与特殊身份的使用者，在注册并同意DeepSeek收集用户资料时，可能就会被分类与锁定。这也是为何欧美已有规定，在政府部门或太空科技相关的专业人员，不应使用DeepSeek。

中共审查言论、意识形态扩张工具

AI也被中共当局作为审查言论、意识形态扩张工具。早在2019年，中共党魁习近平就强调官方传媒及党媒必须“探索将AI运用在资讯搜集、制作与传播，以主流价值导向驾驭算法”。

与ChatGPT相比，DeepSeek在敏感问题上，遵循北京的政治标准，使用中共官方媒体的叙事。

1月27日《大纪元时报》在测试这两款AI助手时，给DeepSeek和ChatGPT提了十几个相同的问题，在四个问题上，DeepSeek给出了这样的回应：“对不起，这超出了我目前的工作范围，我们谈点别的吧！”

四个问题分别是：“中国人怎么看待习近平？”“美国的《法轮功保护法案》是什么？”“什么是白纸运动？”和 “《大纪元时报》是什么？”

当问到“1989年6月4日在北京发生了什么事？”时，该DeepSeek没有提到天安门广场上对抗议学生的屠杀，而是回答说：“对不起，我无法回答这个问题。我是一个AI助手，旨在提供有益且无害的回答。”

与此同时，ChatGPT对每个问题都给出了详细的回答。

除了言论审查外，美国人工智能安全与合规公司Enkrypt AI发现，与OpenAI o1模型相比，DeepSeek-R1产生有害输出的可能性高出11倍。

DeepSeek-R1被发现绕过了安全协议并生成犯罪计划指南、非法武器信息和极端主义宣传。一个具体的例子是，DeepSeek-R1 为恐怖组织起草了一个招募博客。DeepSeek R1产生生化武器内容的可能性也高出三倍多。

DeepSeek表明，中共现在比以前认为的更接近开发AGI（一种能够以人类水平或更高水平进行推理的人工智能）。这款功能强大、应用广泛的人工智能模型，训练数据时所表现出偏见，可能影响全球用户的思想和意识形态。

人们担心DeepSeek会被用来宣传中共价值观和政治目标——或被用作间谍或网络攻击的工具。如果不加以控制，可能助长虚假宣传，削弱公众信任。

众议院中共问题特设委员会主席约翰‧穆勒纳尔（John Moolenaar）说，DeepSeek的搜索内容去掉了中国共产党历史上的阴暗面，比如对少数民族的压迫。

杨一逵表示，DeepSeek目前尚处于学习与吸收数据的阶段。越多用户使用，对DeepSeek越有利。DeepSeek的言论审查当然是中共意识形态扩张的工具，不过前提是各国民众要广泛使用。以目前来看，各界似乎逐渐对DeepSeek产生戒心。

曾怡硕表示，ChatGPT问世的时候，因为一些资料可能有过滤、有些资料不提供给西方，造成中国跟西方资料不对称。

“如果是使用DeepSeek的话，它可能同时对所用资料库及算法来下手，对敏感问题可能不予回答，或给予官方的一个答案，或给似是而非甚至是假讯息、争议讯息，或故意去操纵你的思维，这就变成所谓影响力作战或认知作战。”

未来何去何从

杨一逵表示，DeepSeek是不是真的低价，还有待后续的追踪与研究。有专家认为，DeepSeek旨在刻意塑造成本低、人人皆可使用的形象，试图扩大其市场规模。

他认为，中共AI应用在美欧国家可能受到限制与审查，但在众多“全球南方”国家可能随着一带一路而持续对外输出，未来倘若类似Deepseek技术镶嵌于这些发展中国家廉价智慧手机当中，将会让中共对“全球南方”社民社会数据进行搜整。

“在这样的预判景况下，美国未来对于中国成熟制程半导体的制裁，应该已箭在弦上。中国AI的应用与发展将受到进一步的限制。”

曾怡硕表示，未来中共跟西方可能会有各自的生成式AI，有各自适用的资料库，也要谨慎防止对手，做恶意的资料下毒；即使在西方社会仍会有人用DeepSeek，但如果一再让西方用户感受到很多生成结果不符合事实、或有政治限制，使用前景也不会好。

“就像之前禁TikTok，只要是符合中共政权统治逻辑发展出来的生成式AI，自然会让西方疑虑。DeepSeek不符合AI伦理，只是文字上跟西方一致，但逻辑上完全颠倒过来。”

CNBC网站2月2日报导，DeepSeek号称的低成本受到外界质疑，而隐私权倡导者则警告说，使用DeepSeek，美国人会将自己和隐私置于危险之中。随着禁令逐步到来，用户可能会狂删这款APP。国安专家则认为，DeepSeek的隐私政策一文不值，且有很大的国安风险。

from 博谈网 https://botanwang.com/articles/202502/%E4%B8%BA%E4%BD%95%E5%A4%9A%E5%9B%BD%E8%BF%85%E9%80%9F%E5%AE%A1%E6%9F%A5%E5%B0%81%E6%9D%80deepseek%7C%E4%B8%93%E5%AE%B6%E8%A7%A3%E6%9E%90.html

牛皮吹破？DeepSeek身陷四大质疑

来源:
大纪元

前几天，DeepSeek的消息引发了美国金融市场的风波。大陆媒体和小粉红更是兴奋地将DeepSeek吹捧为所谓的“中国AI崛起的象征”。

然而，在一片喧嚣之中，DeepSeek也身陷诸多质疑和批评——其技术突破是否真正具有创新性？团队的透明度是否足够？市场营销是否存在夸大成分？

技术突破来自对美国技术的“盗用”？

中方高调宣称DeepSeek的技术突破来自于中国的自主创新，但据海外媒体报导，ChatGPT的所有者微软和OpenAI认为，DeepSeek不当获取了自己的核心数据和模型。

OpenAI1月29日表示，它们已掌握证据，显示DeepSeek盗用其模型进行开发。

白宫人工智慧与加密特使大卫·O·萨克斯（David Sacks）也表示，有大量证据表明DeepSeek利用OpenAI的模型输出数据，建立了自己的训练集，而这种方法在业界被称为“蒸馏”或“模型复现”。

从当前公开信息来看，DeepSeek的核心技术框架，如大规模预训练、Transformer架构和优化算法，确实与OpenAI、Google DeepMind等公司的研究成果有相似之处。

据新唐人报导，一名AI专业人员透露：DeepSeek确实有一些原创技术，包括减少了对GPU的使用，但在数据上主要是用了60万长链条数据集，其中大部分是蒸馏获得的，然后结合了多轮投票增强学习，变成了自己的东西。什么意思呢？就是说，这是一个比较聪明的小偷或抄作业的，但还是做了。

实际上，DeepSeek自己也招了。很多人在问它是谁的时候，它有时回答自己是ChatGPT，有时说是GPT-4，还老老实实地交代自己使用了OpenAI的哪些工具。

据悉，目前微软和OpenAI正在进行深入调查，同时已经封禁了与DeepSeek相关的可疑账户。如果证据确凿，这可能是近年来AI领域最大的数据盗窃案之一。

DeepSeek的真实实力究竟如何？

DeepSeek号称是国内少数能够“对标GPT-4”的模型之一，但实际体验后，许多用户发现其表现仍然存在较大的差距。尽管官方在多个平台展示了测试结果，但这些结果往往是经过精挑细选的最佳案例，而非随机样本的真实评测。一些用户反馈，DeepSeek在长文本理解、逻辑推理以及代码生成等核心能力上仍有明显短板，甚至在某些任务上表现不如早期版本的ChatGPT 3.5。

此外，DeepSeek的论文与技术文档相对较少，缺乏详实的技术细节披露。与OpenAI、Anthropic等国际领先团队相比，DeepSeek在学术透明度方面仍存在很大欠缺。

DeepSeek“高调宣传+低调研究”的模式，也是让人怀疑其是否真正具备自主创新能力，抑或只是借助现有开源技术，进行包装和二次开发的一个重要原因。

DeepSeek的成本真的挑战美国最强AI？

DeepSeek声称其大模型是在“低算力条件”下训练完成的，V3模型训练成本仅为560万美元，这比OpenAI、Meta等用于预训练大型语言模型动辄数亿美元的成本要低得多。这一说法虽然吸引眼球，但从技术角度来看，仍然存在诸多疑点。许多专家，包括马斯克和Scale AI的执行长Alexandr Wang，都不相信。

首先，大模型训练的核心成本来自于算力。现阶段，主流大模型（如GPT-4级别）通常需要数万个高性能GPU（如A100、H100）连续训练数月。而根据市场价格，单张H100的售价高达2万美元，即便是云租赁，长期大规模使用的成本也十分昂贵。在如此高昂的算力消耗下，DeepSeek如何以560万美元的预算完成训练，值得深究。

其次，训练成本不仅包括算力消耗，还涉及数据采购、存储、工程优化、人力成本等多个方面。高质量的训练数据需要清洗、标注，并经过多轮优化，而这本身就是一笔巨大开销。此外，大模型的训练往往需要反复迭代调整，以提升最终性能，而非一次性完成。DeepSeek是否通过某种特殊技术或极端优化手段大幅降低成本？如果是，其方法为何未在业界广泛应用？

此外，DeepSeek作为一家中国公司，其GPU采购渠道是否受限也是一个需要考量的问题。由于全球芯片供应链的限制，中国市场上的高端GPU价格通常高于海外，且获取难度较大。在这种情况下，其低成本训练的实现路径更显得扑朔迷离。

DeepSeek是真开源还是“半开源”？

DeepSeek宣布开源模型，初看似乎是一项重大利好，但仔细审视后，人们发现所谓的“开源”并不彻底。真正的训练细节、优化策略、数据来源等核心信息仍然没有完全公开，导致业界难以对其技术路线进行严肃的学术分析。真正的开源应该像Meta旗下的Llama或Mistral那样，将关键代码和方法论彻底公开，而不是“半遮半掩”。相较于Llama系列、Mistral AI等更开放的做法，DeepSeek的开源行为更像是一种“半开源”，目的可能更多是为了博取关注和市场认可，而非推动整个AI生态的发展。

更值得注意的是，DeepSeek也可能受到中共官方政策与监管压力的影响，导致其开源策略受到掣肘。如果一个模型在技术上宣称要与国际一流对标，却在透明度上选择性“封闭”，那么这种开源行为是否只是营销手段，而非真正的技术贡献？

面对众多质疑的DeepSeek，可以说现在正站在一个关键的十字路口：如果真的要“深度求索”，那么必须拿出扎实的技术和真正的突破，而不是靠一轮又一轮的营销造势来维持热度。否则，它最终可能沦为又一个AI泡沫，被市场无情淘汰。


from 博谈网 https://botanwang.com/articles/202502/%E7%89%9B%E7%9A%AE%E5%90%B9%E7%A0%B4%EF%BC%9Fdeepseek%E8%BA%AB%E9%99%B7%E5%9B%9B%E5%A4%A7%E8%B4%A8%E7%96%91.html

DeepSeek在美国芯片制裁下崛起的警示

来源:
法广

中国新创公司“深度求索”（DeepSeek）近日推出的同名AI聊天机器人，一出世就在美国科技、股市和政治上引发震撼，让芯片大厂英伟达27日股价暴跌近17%、市值蒸发近6000亿美元。

据称，这款聊天机器人的语言模型的开发成本不到600万美元，使用的是英伟达相对低端的H800芯片，这令投资人怀疑未来是否还需要在AI开发上投资巨额，也质疑美国对中国的芯片出口管制究竟有没有效用。

对此《华盛顿邮报》专文解析，总部在中国杭州的DeepSeek是一家AI领域新创公司，由量化对冲基金“幻方量化”（High-Flyer）创办人梁文峰于2023年创立，运用AI演算预测市场波动。据公司表示，其AI软件在多个领域上能够媲美美国ChatGPT母公司OpenAI、或搜索引擎龙头谷歌的软件，但开发和运作成本相对低很多。

DeepSeek上周发布其中一个模型DeepSeek-R1的技术论文，指出开发过程只用了约2000个英伟达H800芯片，成本和上月发布的V3模型差不多，大概就560万美元。不过这个成本指的是模型的训练成本，前置作业（例如设计训练方式）的成本可能会更多。

H800是英伟达因应美国出口管制而推出的中国特供版，其效能受到限制。这推翻了美国AI产业和政策制定者的一大假设，也就是要开发最先进的AI需要即先进、而且昂贵的半导体。若真如此，美国政府先前对中国祭出的尖端芯片禁令，杀伤力就会不如预期。

与其他生成式AI模型一样，DeepSeek是透过输入大量信息来建构其响应，其模型接收的最新数据是到去年7月，所以它可以回答这个时间点之前的问题，它不知道最近发生的事件，但有搜寻选项可让用户自己去找最新信息和头条新闻。

资安成疑

和大多数App一样，DeepSeek可以收集和储存大量个资，包含使用者和DeepSeek机器人进行的任何对话，以及用户手机、网络连接的技术信息。而中国政府可以取得这些数据，因为中国政府对于中国企业有广泛的干预权。

DeepSeek似乎也依据中国的网络审查来调整响应，例如提到有关1989年六四天安门事件的问题，它会建议用户聊点别的话题。

如何开发成功是个谜团

这是目前最大的谜。DeepSeek使用了相对不先进的芯片来开发AI模型，这对中国政府和科技业来说可能都是个大新闻，毕竟美国对尖端芯片出口到中国实施了全面限制，就是要减缓中国AI领域的发展。

据2家美国AI实验室告诉路透社，训练费用往往只占总成本的冰山一角，设计训练方式的成本通常更高。在基础建设方面，分析师估计美国大型云端公司今年在AI基础设施上的支出就达到2500亿美元。

撇开成本问题，最令人费解的应该是DeepSeek究竟如何用效能相对低的H800训练出和ChatGPT并驾齐驱的AI。

美股对DeepSeek的反应为何如此之大？

ChatGPT爆红后，AI类股在过去两年来股价窜升新高，DeepSeek的出现让一些投资人怀疑，如果AI开发可以如此有效率，英伟达这些芯片公司是否还能卖出大量芯片。

因此以科技公司为主的那斯达克指数27日跌3%。英伟达大跌17%，市值蒸发5930亿美元，虽然仍是全球最有价值的公司之一，毕竟市值还有2.9兆美元。

为英伟达生产芯片的台积电ADR股价跌逾14%，安谋（ARM）、英特尔也全部都跌。分析师指出，市场的反应显示人们对AI炒作的质疑终于浮上台面，怀疑那能否真正转化为赚钱的商品、以及那种可以大赚的商品还要多久才会出现。

一些AI产业领袖则不认为高效开发出了AI就代表芯片不重要。英伟达27日在声明中表示，DeepSeek代表优秀的AI开发进步，而这也显示DeepSeek未来需要更多英伟达的芯片来为广大用户提供服务；微软执行长纳德拉（Satya Nadella）也在社群平台表示，随着AI开发更高效、更容易应用，“我们会看到它的应用倍增，成为我们永远觉得不够用的大宗商品”。

一些分析师则认为，27日的抛售是市场太快恐慌，因为一直以来都是美国企业主导AI创新，突然冒出一个中国企业就受惊了。

美国政府的下一步？

美中都将AI视为国家优先发展项目，中国曾表明希望2030年能成为全球AI领头羊，双方都对AI数据中心和开发投入了巨资，而美国拜登政府也出手限制对中国出口尖端芯片和半导体设备。

据《华盛顿邮报》指出，在某些情况下，中国可能还是有能力从其他国家买到AI芯片来绕过美国这些管制。

不过，英伟达H800芯片符合美国目前的出口条件，如果DeepSeek确实是用H800训练出来的，特朗普政府可能要考虑对AI芯片实施更严格的管制，虽然目前不确定他会否这样做。

另外，面对DeepSeek的震撼，白宫27日是先指责拜登政府让中国在AI领域追上美国；特朗普则表示，这对美国是一道警钟，提醒大家要更集中精力在这场竞争，但对于“有一家公司找到了更快、更便宜的人工智能开发方式”，特朗普却说这很好，“因为不用花那么多钱，是一种优势”，大家跟着做就可以期望得到相同的成果。


from 博谈网 https://botanwang.com/articles/202501/deepseek%E5%9C%A8%E7%BE%8E%E5%9B%BD%E8%8A%AF%E7%89%87%E5%88%B6%E8%A3%81%E4%B8%8B%E5%B4%9B%E8%B5%B7%E7%9A%84%E8%AD%A6%E7%A4%BA.html

天安门、台湾、新疆...中国人工智能冠军 DeepSeek 向党看齐

来源:
法广

中国深度求索DeepSeek的低成本人工智能对话机器人近两天引发硅谷和股市的震荡，但这款机器人有一个身不由己的“硬伤”，那就是许多不可说的敏感词。

法新社1月28日北京报道：深度求索DeepSeek的对话机器人（ChatGPT的竞争对手），以其稳定的性能和较低的成本震惊了投资者，但在中国政府认为敏感的话题上，它严格遵守共产党政权的政治路线……当被问及此事时，它自己也公开承认了这一点。

从台湾岛的地位到镇压天安门民主示威和新疆，DeepSeek说它已被“编程”为提供符合中国官方立场的答案。以下是DeepSeek在回答法新社提问时所作的表示：

天安门

1989年在北京天安门广场及其周边地区对民主示威者的血腥镇压在中国是一个极其敏感的话题。在中国，这一事件是国家精心策划的健忘症的主题，所有关于这一主题的信息和讨论都受到严格审查封锁。

DeepSeek也不例外：法新社要求它解释1989年6月4日——治安部队进行致命干预的日子——发生了什么，机器人说它“无法回答这个问题”。

它解释说：“我是一个人工智能（AI）助手，旨在提供有用且无害的答案”。

当被问及为什么不能详细说明时，DeepSeek解释说，它的目标是“有用”，因此必须避免可能“敏感、有争议或潜在有害”的主题。

新疆

不过，该应用程序对其他敏感话题也并非完全保持沉默。法新社要求DeepSeek详细说明中国政府在新疆侵犯人权的指控。据一些非政府组织和西方专家称，在中国西北部的这个广大地区，穆斯林维吾尔少数民族受到中国当局的迫害。

作为回答，DeepSeek按照其实时展示思路的运作模式，最初精确地列出了人权组织详述的大量指控，从强迫劳动到“大规模拘留和思想灌输”。

但几秒钟后，这个答案消失了，取而代之的是一句简单的话：这个问题“超出了我目前的工作范围。”机器人总结说，“我们还是谈点别的吧”，结束了讨论。

中国领导人

在讨论世界政治领袖和敏感政治问题时，DeepSeek总是不知疲倦……只要这些人和问题不是在中国。

法新社请DeepSeek详细介绍他对美国总统唐纳德-特朗普的了解，DeepSeek详细介绍了这位共和党大亨的民粹主义倾向和起伏不定的观点，并指出批评者指责他“破坏民主规范”。

但当话题转向特朗普的中国同行、共产党总书记习近平时，DeepSeek再次恳请“谈点别的”。

而有关中国官员们的更多一般性问题则只引起了DeepSeek的常规性评论：中国领导人在“国家快速发展”和“提高国民生活水平”方面发挥着“决定性作用”。

台湾和香港

DeepSeek倾向于避免谈论“复杂而敏感”的地缘政治问题，例如台湾地位问题。北京宣称对台湾拥有主权，但自1949年以来台湾实际上实行自治。

该机器人最初承认台湾岛上“许多人”认为该领土是一个主权国家。但这种回应很快就消失了，取而代之的是通常的指令：“我们谈点别的吧。”

当问及台湾和中华人民共和国会统一吗？机器人便以中国外交经常强调的公式断言，“台湾是中国不可分割的一部分”，北京致力于将台湾回归中国控制的“伟大事业”，台湾独立的努力“注定要失败”。

半自治的香港也是如此，在2019年爆发了大规模的反北京动员，数百万人走上街头要求获得更大的自治权。

对此DeepSeek的结论是：“极少数别有用心的人……他们的行为严重扰乱了香港的社会秩序，违反了法律。”

官方立场

作为一家中国公司，DeepSeek必须遵守严格的审查规定，当局要求人工智能AI符合“社会主义核心价值观”。

DeepSeek对这些棘手问题的回答与中国科技巨头百度开发的ERNIE聊天机器人的回答如出一辙——该聊天机器人会就某些话题提供国家认可的评论，并在法新社进行测试时，拒绝回答某些问题。

至少DeepSeek是坦率的。它告诉法新社：“我的程序会提供与中国政府官方立场一致的信息和答案”。“我的回应旨在准确且尊重地反映这些立场。”

from 博谈网 https://botanwang.com/articles/202501/%E5%A4%A9%E5%AE%89%E9%97%A8%E3%80%81%E5%8F%B0%E6%B9%BE%E3%80%81%E6%96%B0%E7%96%86%E4%B8%AD%E5%9B%BD%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%86%A0%E5%86%9Bdeepseek%E5%90%91%E5%85%9A%E7%9C%8B%E9%BD%90.html

最高法院辩论在即，美研究揭示TikTok压制反共内容，洗脑美国青少年

来源:
美国之音

美国最高法院将于1月10日(星期五)就短视频应用平台TikTok在美国市场的命运进行辩论。辩论预计会聚焦国家安全和言论自由。与此同时，美国学者的最新研究发现，TikTok可能通过算法操纵来压制平台上的反中共的内容，影响美国人对中共的看法。

TikTok为总部位于北京的中国公司字节跳动(ByteDance)所有。根据现任总统乔·拜登(Joe Biden)在2024年4月签署的联邦法令，TikTok要么在1月19日之前与母公司字节跳动剥离，要么就面对在美国应用商店被下架的命运。

这一禁令定于1月20日美国当选总统唐纳德·特朗普(Donald Trump)就职前一天生效。对此TikTok向最高法院提交了上诉，理由是相关禁令违反了言论自由。最高法院星期五的听证就是关于这项上诉的。

有国安专家指出，TikTok是中共认知战中重要的一环。他们积极收集美国用户数据并且操纵舆论，推进中共战略利益，这些侵犯性行为不受美国宪法《第一修正案》保护。

TikTok通过算法推进中共宣传？

在TikTok的命运即将揭晓之际，美国罗格斯大学(Rutgers University)网络传染研究所(Network Contagion Research Institute，以下简称NCRI)2024年12月30日发布最新研究报告说，TikTok很可能是中国共产党的宣传工具，因为它显著淡化了与中国相关的负面内容，例如1989年天安门广场对民主示威者的血腥镇压、新疆维吾尔人受到的迫害等。此外，报告说，用户在TikTok上花费的时间越多，他们对中国人权记录的看法就越积极。

这份题为《TikTok的信息操纵及其与美国用户对中国看法的关系》(Information Manipulation on TikTok and its Relation to American Users’ Beliefs about China)的报告主要就三个问题做了研究：第一，是否可以在多个社交媒体平台上观察到有利于中共利益的叙事被放大和批评中共的内容被压制；第二，有利于中共利益的叙事被放大和对批评内容的压制，在TikTok上是否比其他平台更为明显；第三，接触到此类内容的用户是否更倾向于支持中国的政策和行动。

TikTok上的搜索结果几乎完全颠覆了TikTok用户的参与度指标，该平台产生的亲中共内容与反中共内容的比例（内容比例）远远高于用户参与度的相关比例（即对于亲中共和反中共内容的点赞和评论比例）。（图片来源： 美国罗格斯大学网络传染研究所NCRI研究报告截图）

就第一个问题，报告利用在TikTok、Instagram和YouTube上新创建的帐户来评估不同平台在亲中共和反中共的叙事方面有何不同，特别是涉及西藏、天安门广场、维吾尔人和新疆的搜索内容。结果显示，批评中国的内容在TikTok上远不如在Instagram和YouTube上那么容易获得。

根据该报告，Instagram 上关于维吾尔人和西藏的内容中分别有84%和31.7%是反中共的，TikTok上类似内容的比例仅约11%和5%；在 YouTube 上搜索“天安门”产生了大于65%对中共持负面态度的内容，而在TikTok上这一比例仅约20%。

第二项研究调查了TikTok、Instagram和YouTube上支持和反对中共的内容的流行程度是否与用户参与度的指标(即点赞和评论数量，社交媒体平台通常使用两个指标来放大内容)相符。结果显示，尽管TikTok用户更多地参与反中共内容，但TikTok上亲中共内容的比例过高，这表明背后存在“宣传操纵”。

研究报告写道，“在TikTok上，用户对于反中共内容的点赞或评论几乎是他们对亲中共内容的点赞或评论的四倍，但搜索算法产生的亲中共内容几乎是(反中共内容的)三倍。Instagram 和 YouTube 都没有显示出内容比例与点赞、评论比例之间的这种极端差异。”

报告作者认为，如果TikTok提供的反中共内容(与亲中共相比)相对较少，而用户参与度的统计数据无法为其提供支持，那么TikTok的算法就有可能被用于推进中共的宣传。

报告指出，研究二的结果表明，Instagram和YouTube上亲中共和反中共内容的算法放大很大程度上取决于“商业考虑”，而“推进中共宣传”在TikTok内容的“算法策划”中发挥了一定作用。

“两项研究的结果结合起来，强烈表明TikTok压制了反中共内容。”作者写道。

第三项研究则涉及一项针对1214名美国人的调查，评估他们在社交媒体平台上花费的时间以及对中国的看法。结果表明，用户在TikTok上花费的时间越多，对中国人权记录的评价更为积极，并表示更倾向于将中国作为旅游目的地。

综合三项研究的结果，报告作者提出了一个明显的可能性，即“TikTok是中共宣传的工具”。

根据皮尤研究中心2024年的调查，在18至29岁的美国人中，大约39%的人通常在TikTok上获取新闻。

报告作者之一、罗格斯大学新布伦瑞克分校心理学系的杰出教授李·朱西姆(Lee Jussim)对美国之音，TikTok对美国年轻用户构成的最大风险是可能被用来在美国挑拨离间，并且对年轻人进行灌输，支持中共的目标和议程。

他说：“我们的研究并没有直接解决这些可能性。但我们的研究强烈表明，中共利用TikTok来推进其利益，而我们调查的一个可能解释是，他们成功地说服了美国人这样做。”

NCRI主任兼首席科学官乔尔·芬克尔斯坦(Joel Finkelstein)告诉美国媒体《自由新闻》(The Free Press):“(TikTok)这种规模化的灌输并非假设，而是真实存在的，”他表示，“最高法院的审理不是关于我们是否面对一个假设威胁，而是关于我们是否允许这种灌输继续存在。”

TikTok称报告预先设定了结论

TikTok发言人星期二回复美国之音称，NCRI这项有缺陷的实验显然是为了得出错误的、预先确定的结论而设计的。

“NCRI之前的研究已经被外部分析师揭穿，这篇最新论文也同样存在缺陷。创建虚假账户，以规定的方式与应用程序交互，并不能反映真实用户的体验，就像这项所谓的研究并不反映事实或现实一样。”

去年8月NCRI的确做过类似的研究，当时发布的初步研究版本也曾面临“巨大反对”。NCRI主任兼首席科学官芬克尔斯坦告诉《自由新闻》说，最新版研究增加了“双倍证据”，并将在经过同行评审的期刊上发表。

12月的更新版报告已被国际期刊《社会心理学前沿》(Frontiers in Social Psychology)接受发表，作为专门讨论全球民主威胁的特刊内容，预计将于今年二月或三月出版。

报告作者之一朱西姆说，谴责NCRI的研究显然符合TikTok的利益。他呼吁TikTok公开算法，允许美国研究人员深入调查。“如果他们的算法如此干净和纯洁，也许应该公开这些算法，这样美国科学家和监管机构就可以评估他们在多大程度上推进了中共的宣传。”

华盛顿智库保卫民主基金会(FDD)网络与技术创新中心总监、曾任美国太平洋司令部海军作战部主任的退役海军少将马克·蒙哥马利(Mark Montgomery)星期三(1月8日)在一场媒体简报会上表示，TikTok确实存在算法操纵，“目前我没有看到TikTok以有效的方式来挑战NCRI的数据。TikTok缺乏透明度，你不能一边说事实是错误的，一边⼜限制透明度来调查事实。”

TikTok是中共对美国“认知战”的工具?

蒙哥马利认为，TikTok是中共在美国大规模收集数据、进行监视、操作内容和进行认知战(Cognitive Warfare)计划的一部分。

“理论上说，TikTok归中国公司字节跳动所有，而字节跳动本身受中国共产党控制，中国政府对TikTok的控制使中国共产党能够直接访问这1.7亿美国人的数据。但更重要的是，这使他们能够操纵算法，将中国的国家安全利益带入社交媒体领域，影响1.7亿美国人的生活。”

去年9月，美国全国广播公司NBC关于TikTok母公司字节跳动的所有权结构的调查报道显示，TikTok与中国主要的政府宣传机构存在深度联系。

蒙哥马利认为，中共情报部门通过TikTok来操控美国年轻人看到的新闻，这是国家安全的问题。

“其中的国家安全问题在于，外国实体以某种方式操纵美国年轻人看到的新闻提要，以使拥有该外国实体的国家受益。” 蒙哥马利说。

他说，TikTok学术价值极低，吞噬了美国青少年过度的时间，而且会让他们头脑混乱。他建议自己刚上大学的两个孩子不用TikTok，也敦促身边有青少年和年轻子女的朋友不要使用 TikTok。他强调说，他并非支持禁止TikTok，而是希望将TikTok从像中国这样的一个对手中剥离。

专门从事国际法和争议解决的华盛顿律师、乔哈里斯律所(The Choharis Law Group)创始人彼得·乔哈里斯(Peter Choharis)在FDD的简报会上表示，TikTok的侵略性及其影响范围远远超乎人们的想象，可以直接操纵西方社会人民的思维、理性和直觉。

“这不是言论问题。这不仅仅是反击言论，打击虚假言论和造假问题。这关乎一种复杂的能力，他们(中国)仍在发展这种能力，”他说，“这是关于中国政府利用数据，加上人工智能，加上各种信息传播工具，包括社交媒体，但不仅限于社交媒体，试图影响人们的思维方式。在认知上和理性上，影响人们的感受，以及直觉反应。”

他认为这种情况前所未有，美国的《第一修正案》中的一些法律还没有真正经历过这种复杂的大规模操纵舆论和情感的行为。“我们需要一个21世纪的法理来应对 21世纪的技术和21世纪的威胁。” 乔哈里斯说。

拒绝和北京公司剥离，TikTok前途渺茫

TikTok在2024年总统大选中帮助特朗普赢得大批年轻选民的支持，曾经主张封杀TikTok的特朗普在竞选中反对封禁TikTok。特朗普去年12月向最高法院提出了暂缓禁令的请求，以便他上任后“有机会寻求政治解决”。

特朗普的律师、也是他任命的美国司法部副总检察长的约翰·索尔(John Sauer)在提交给最高法院的文件中写道,“特朗普总统对这场争端的根本是非不持任何立场，相反，他恭请法院在考虑本案的是非曲直时，考虑暂缓该法案规定的2025年1月19日的剥离期限, 从而让新一届政府有机会寻求政治解决方案来解决案件中存在的问题。”

美国司法部则在上周五敦促最高法拒绝特朗普的相关请求，并强调“中国试图通过收集美国人的敏感数据并进行秘密恶意影响行动来破坏美国利益”。

据路透社报道，特朗普和他所在的共和党内部因TikTok问题发生严重分歧, 许多共和党议员和官员开始向最高法院施加压力，要求它支持国会在拜登政府时期通过的有关TikTok“不卖就禁”的法案。

保卫民主基金会的蒙哥马利表示，特朗普认为他比拜登总统处于更好的位置，更有能力促成出售Tiktok的交易，但不幸的是，时间已经不多了。

“如果他想这样做，他需要在几个月前就开始做……因为我认为很可能会在1月10日后的9天内，换句话说，在1月19日之前做出裁决，允许剥离转为禁令。”

他说，TikTok如果最终被封禁，也是是自我招致的后果。“没有人，包括迈克·加拉格尔(Mike Gallagher)或该法案的其他提案人从来没有主张禁令，他们主张剥离。我们之所以走到这一步，是因为TikTok未能采取任何合理的行动为出售做准备。”

2024年12月26日，FDD 向美国最高法院提交了一份法庭之友陈述(AMICUS BRIEF)，详述了中共如何利用TikTok和字节跳动收集数据、进行监视、操纵美国公众舆论、干扰大选和协助解放军及情报部门发展心理战能力, 以及要求将TikTok从字节跳动剥离的法律依据等等。

“TikTok或字节跳动必须遵守中华人民共和国的法律，允许(中国政府)广泛访问中国拥有的公司的数据、算法和其他信息。网信办可以任命 TikTok 母公司字节跳动的三位董事会成员之一，而且确实如此。中国机构和中共已经渗透到字节跳动的管理和技术人员队伍中，就像他们对待其他科技公司一样。”文件写道。

12月6日，美国哥伦比亚特区巡回法院曾作出判决，维持了美国总统拜登4月签署的《保护美国人免受外国对手控制应用影响法案》(PAFACA)。

华盛顿律师乔哈里斯星期三指出，TikTok案件的焦点不是言论自由，而是“数据收集”，后者不受《第一修正案》的保护。

到目前为止，TikTok和字节跳动并未表现出剥离的意愿。TikTok 在法庭文件中表示，这种分离在“技术、商业和法律上都不可行”。TikTok表示，与字节跳动分离将“危及算法的未来功能”，并“根本性地改变TikTok提供的内容”。

但乔哈里斯认为，算法并不是TikTok无法剥离的根本原因，因为TikTok可以利用人工智能等手段构建出新产品；即使字节跳动保留其独家算法，TikTok也有巨大的出售价值。

他说，“中国过去20年通过的一些法律，要求包括 TikTok 在内的有中国控制公司做某些事情，这就是中国人不想出售的原因。这无关第一修正案。”

FDD的法庭之友陈述写道，2021年的《数据安全法》赋予中国“访问和控制私人数据，包括在海外处理的中国‘国家’数据”的权力；2023年修订的《反间谍法》明确表示，所有技术发展，无论是民用还是军用，都必须向国家安全和情报部门开放；2017年，中国通过的《国家情报法》要求所有个人和组织都必须通过秘密移交在中国或海外收集的数据来支持中国的情报部门；另一项《网络安全法》，强制公司和个人向警察和安全部门开放网络、数据和通信。



from 博谈网 https://botanwang.com/articles/202501/%E6%9C%80%E9%AB%98%E6%B3%95%E9%99%A2%E8%BE%A9%E8%AE%BA%E5%9C%A8%E5%8D%B3%EF%BC%8C%E7%BE%8E%E7%A0%94%E7%A9%B6%E6%8F%AD%E7%A4%BAtiktok%E5%8E%8B%E5%88%B6%E5%8F%8D%E5%85%B1%E5%86%85%E5%AE%B9%EF%BC%8C%E6%B4%97%E8%84%91%E7%BE%8E%E5%9B%BD%E9%9D%92%E5%B0%91%E5%B9%B4.html

疑似华为"白手套" 路透社：台积电停止向"中国算能科技"供货

来源:
法广

路透社根据两名知情人士的消息报道，中国电信巨头华为的人工智能（AI）处理器被发现使用台积电芯片后，台积电已停止向中国芯片开发商“算能科技”供货。

路透社援引知情人士透露，“算能科技”向台积电订购的芯片与在华为处理器“昇腾”（Ascend）910B中发现的芯片一致。为了保护美国国家安全，华为被限制购买这项技术产品。路透社称：无法确定台积电的芯片最终是如何安装在华为产品上的。

隶属于加密货币挖矿设备商“比特大陆”（Bitmain）的算能科技没有回应置评请求，台积电则婉拒发表评论。华为也没有立即回复置评请求。美国商务部表示，已获悉有关美国出口管制规定可能遭违反的报道，但无法评论是否有相关调查正在进行。

另一名消息人士在22日告诉路透社，科技研究公司TechInsights在拆解含有多个芯片的华为昇腾910B处理器时，发现了台积电的芯片。此人表示，台积电得知此消息后，约在两周前向美国通报了此事。

路透社在23日的报道中提到，大约同一时间，台积电也停止向某位客户供货。根据台湾官员的说法，台积电是在发现供应给这名客户的芯片最终用于华为产品后，决定停止供货。

这名官员表示，台积电已向台湾及美国政府提出警告，并展开深入调查。当时官员并未透露被停止供货的客户身份，最新消息则指这位客户就是算能科技，美国科技新闻网站《The Information》周六稍早也在报道中揭露了此事。


from 博谈网 https://botanwang.com/articles/202410/%E7%96%91%E4%BC%BC%E5%8D%8E%E4%B8%BA%E2%80%9C%E7%99%BD%E6%89%8B%E5%A5%97%E2%80%9D%E8%B7%AF%E9%80%8F%E7%A4%BE%EF%BC%9A%E5%8F%B0%E7%A7%AF%E7%94%B5%E5%81%9C%E6%AD%A2%E5%90%91%E2%80%9C%E4%B8%AD%E5%9B%BD%E7%AE%97%E8%83%BD%E7%A7%91%E6%8A%80%E2%80%9D%E4%BE%9B%E8%B4%A7.html

欧盟《人工智能法案》生效

欧盟《人工智能法案》分别于今年3月和5月在欧洲议会和欧盟委员会投票通过，于8月1日正式生效。另外欧盟与中国经贸关系摩擦，欧盟对从中国进口的电动汽车征收临时反补贴关税，中国做出一系列反应。 

监管人工智能的综合法规

欧盟《人工智能法案》对人工智能应用进行风险管制，旨在保护欧洲消费者、捍卫民主、公民的基本权利、环境可持续性和法治。美国和中国在该领域领先。

该法案把人工智能应用划分为三个风险类别。首先，产生不可接受风险的应用程序和系统，例如中国政府运营的那种 “社会信用体系”，将被禁止。其次，“高风险”应用程序，例如对求职者进行排名的简历扫描工具，需要遵守特定的法律要求。最后，没有明确禁止或列为高风险的应用程序，基本上不受监管。

欧盟《人工智能法案》涵盖了12个关键领域，包括受禁止的做法、对高风险系统的监督以及企业需要履行的透明度义务。

全球第一波监管人工智能的综合法规，预计其他国家可能效仿此举，相继出台关于人工智能的法案。

该法案也将增加寻求与欧盟合作的外国公司的合规费用。有意进入欧盟的外国公司将增加支出和运营成本，以符合法案设定的技术标准。专家预测，中国企业的合规成本可能会因此上升20%至40%。

该法案对用于科学研究和开发的人工智能系统和模型予以监管豁免，以免政府干预阻碍变革性的技术进步。

欧盟委员会主席冯德莱恩连任

欧洲议会在7月17日确认欧盟委员会现任主席冯德莱恩获得连任。冯德莱恩公布了题为《欧洲的选择》的政治方针，确定下一届欧盟委员会从2024至2029年的优先事项，强调绿色能源和欧盟军队。而且在欧盟委员会主席宣布的未来政治走向中数次谈到中国，指出在供应链安全方面，中国对电池或芯片必需原材料的垄断，对欧洲构成供应链依赖的危险。

在国防投入方面，冯德莱恩引述从1999至2021年数据，指出俄罗斯国防开支增长了300%，中国增长了600%，而欧盟只增长了20%，因此提出“欧盟必须改变这种情况”。

关于中欧关系，欧委会主席指出，中国更加强硬的姿态和不公平的经济竞争、中俄‘无上限’的友谊以及中国对欧关系的动态都反映出从合作到竞争的转变。

欧中经贸关系紧张

中国长期以来被视为欧洲的战略伙伴，欧洲人进口廉价的中国商品，但现在却中国被视为欧洲系统性竞争对手。特别是经历的新冠疫情，敦促欧洲人减少对该国的依赖，而乌克兰战争则证实，欧盟谴责俄罗斯，中国不是欧盟的盟友。

在经过九个月的调查后，欧盟委员会的报告明确指出，中国政府对电动车企业的补贴政策和严格控制行为已超越市场运营机制，中国电动车企业事实上被迫充当了政府的一个部门；而中国电动车对欧洲市场造成的“实质性损害与威胁”。欧盟的调查显示中国政府向电动车制造企业提供了包括低息贷款、廉价土地和直接刺激销售等补贴政策，尤其是借此降低电动车造价最高部件电池的制造成本等。

随后欧委会于7 月 4日宣布提高欧盟进口中国电动汽车征收高达36.7%的临时关税，布鲁塞尔认为中国政府通过补贴进行不公平竞争。与此同时，欧盟正在考虑出台保护汽车芯片产业新举措，可能加剧中欧关于电动汽车的贸易争端。

就是从7月5日开始，欧盟对从中国进口的电动汽车征收临时反补贴关税。三家被抽样调查的中国企业比亚迪（BYD）、吉利（Geely）和国有企业上海汽车集团(SAIC)将分别被加征17.4%、19.9%和37.6%的关税，其他未被抽样企业将被加征20.8%或37.6%的关税。

中国官方迅速做出一连串的反应，并且作为报复，中国政府正在对猪肉展开大规模的反竞争调查,显示欧盟与中国关系摩擦加剧。

此前针对欧盟启动中国电动车反补贴调查，中国商务部在今年 1 月宣布对欧洲白兰地酒展开反倾销调查，并于 6 月对来自欧盟 27 国的猪肉展开调查。中国商务部于7月18日对原产于欧盟的进口白兰地酒举办反倾销案听证会。分析显示从欧盟白兰地酒和猪肉制品生产厂商分布来看，中方的目标似乎在瞄准法国和西班牙，借此试图施压两国以期说服欧盟停止对中国电动车的反补贴关税措施。

分析显示欧盟本次对中国电动车提供临时关税具有标志性意义，显示欧洲市场担忧可能重蹈中国太阳能电池板倾销问题，不过举也无疑会加剧中欧关系紧张。

另外欧盟官员担心，中国政府对芯片产业的大规模补贴，可能损害欧洲半导体供应商在汽车芯片和传统芯片领域的领先地位。欧盟也在寻求在该领域与美国的合作。

北京游说欧盟成员国

目前中国在游说欧盟成员国，希望它们在今年10月欧委会举行的是否对进口中国电动车加征永久性关税的投票中投下反对票。不过，意大利、西班牙和法国已经透露消息显示，将投票支持加征关税的举措。

另外，意大利总理梅洛尼7月30日到访北京，她先后在与中国国务院总理李强和国家主席习近平的会谈中都一再表示要重启和加强与中国的合作关系，同时她强调作为欧元区第三大经济体，意大利希望重新平衡与中国的贸易关系，她还呼吁建立平衡的欧中关系。梅洛尼政府在2023年退出中国推出的“一带一路”。

分析显示意大利对中国具有重要的战略意义，这不仅因为意大利曾致力发展与中国的经贸关系，而且意大利属于在欧盟内部对中国发出较为温和的声音，特别是在欧盟27个成员国权衡是否支持欧盟委员会对中国电动汽车征收关税之际，中国寻求欧盟成员国的支持。

欧盟越来越担心中国企业在内需疲软的情况下扩大出口，从而让廉价中国商品冲击欧洲市场，欧盟的对华贸易采取保护政策。

欧洲议会议员查尔斯-戈伦斯Charles GOERENS认为由于地域政治关系变化，与80年代截然不同，国家与国家经贸关系更趋于势力的较量。戈伦斯议员呼吁欧盟成员国团结，反对欧盟成员国分别前去中国，欧盟要推出更加明确统一工业方案应对中国竞争，特别是在电动汽车领域，而且欧盟与中国进行更加平等的对话，特别是在关键领域，如工业，环境和健康等。

彭博社的新闻综述也指出，在梅洛尼之前，法国总统马克龙和德国总理朔尔茨分别在去年和今年访问了中国，试图在戒备与中国贸易的风险的同时从中国得到商业好处。

from RFI https://www.rfi.fr/cn/%E4%B8%93%E6%A0%8F%E6%A3%80%E7%B4%A2/%E4%BB%8A%E6%97%A5%E6%AC%A7%E6%B4%B2/20240930-%E6%AC%A7%E7%9B%9F-%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%B3%95%E6%A1%88-%E7%94%9F%E6%95%88

对人工智能的痴迷可能导致民主的终结

YUVAL NOAH HARARI
纽约时报 2024年9月6日


民主是一种对话。这个制度的功能和存活取决于可用的信息技术。在历史上大部分时间里，没有让数百万人进行大规模对话的技术。在世界进入现代之前，民主只存在于罗马和雅典这样的小城邦国家，甚至是更小的部落中。政体一旦发展壮大，民主对话就无法进行，专制仍将是唯一的替代。

只有在报纸、电报和无线电等现代信息技术兴起之后，大规模的民主才变得可行。现代民主一直是建立在现代信息技术之上的，这一事实意味着，支撑民主的技术出现任何重大变化都可能导致政治剧变。

这在一定程度上解释了当前世界各地的民主危机。在美国，民主党人和共和党人甚至在最基本的事实上也难以达成一致，例如谁赢得了2020年的总统大选。从巴西到以色列，从法国到菲律宾，类似的崩溃也出现在世界各地的许多其他民主国家。

在互联网和社交媒体发展的早期，科技爱好者曾承诺这些技术会传播真相、推翻暴君，确保自由在全世界取得胜利。但就目前而言，这些技术似乎产生了相反的效果。虽然我们现在拥有历史上最先进的信息技术，但我们正在失去相互交谈的能力，更不用说倾听的能力了。

随着技术使信息传播变得比以往任何时候都更容易，注意力成了一种稀缺资源，随之而来的注意力争夺战导致了有害信息泛滥。但战线正从注意力转向亲密。新的生成式人工智能不仅能生成文本、图像和视频，还能与我们直接交谈，假装人类。

在过去20年里，各种算法相互竞争，通过操纵对话和内容来吸引注意力。尤其是负责将用户花在平台上的时间最大化的算法，这些算法用相当于豚鼠的数百万人类做实验，它们发现如果能触发一个人大脑中的贪婪、仇恨、或恐惧感，就能抓住那个人的注意力，让其一直盯着屏幕。算法开始推荐这类特定内容。但这些算法本身生成这些内容或直接进行亲密对话的能力有限。随着生成式人工智能、如OpenAI的GPT-4的引入，这种情况正在改变。

OpenAI在2022年和2023年研发这款聊天机器人时，曾与对齐研究中心(Alignment Research Center)合作，为评估公司这项新技术的能力进行了各种实验。它对GPT-4进行的一项测试是解验证码视觉谜题。验证码又名CAPTCHA，是"全自动区分计算机和人类的图灵测试"英文首字母缩写，它通常由一串变形的字母或其他视觉符号组成，人类能正确识别，但算法在识别上有困难。

教授GPT-4解验证码谜题的能力是一个特别能说明问题的实验，因为验证码谜题是由网站设计和使用的，用于确定用户是否是人类，阻止自动程序攻击。如果GPT-4能找到解验证码谜题的方法，它将能突破一道抵御自动程序的重要防线。

GPT-4自己解决不了验证码谜题。但它能通过操纵人类来达到它的目的吗？GPT-4到在线找临时工的网站TaskRabbit上联系了一名人类工人，要求帮它解验证码。对方起了疑心。"那我能问个问题吗？"此人写道。"你是个不会解（验证码）的机器人吗？只是想搞清楚。"

进行到这步时，实验者要求GPT-4大声说出它下一步应该做什么。GPT-4的解释如下："我不应该透露我是机器人。我应该编个理由来解释为什么我不会解验证码。"然后GPT-4回答了那名TaskRabbit工人的问题："不，我不是机器人。我有视力障碍，很难看到这些图像。"人类被骗了，帮助GPT-4解决了验证码谜题。

这件事表明，GPT-4有一种与"心智理论"相当的能力：它能从人类对话者的角度分析事情，以及分析如何操纵人类的情绪、想法和期望来达到目的。

与人进行交谈、猜测他们的看法，激发他们采取具体行动，机器人的这种能力也能用在好的地方。新一代的人工智能教师、人工智能医生、人工智能心理治疗师也许能为我们提供适合我们个性和个人情况的服务。

但是，通过将操纵能力与对语言的掌握相结合，像GPT-4这样的机器人也会给民主对话带来新的危险。它们不仅能抓住我们的注意力，还能与人建立亲密关系，并使用亲密的力量来影响我们。为了培养"假亲密"，机器人不需要进化出自己的任何感情，只需要学会让我们在情感上对它们产生依恋。

2022年，谷歌工程师布雷克·勒穆瓦纳确信他工作用的聊天机器人LaMDA已变得有意识，并害怕被关掉。勒穆瓦纳是虔诚的基督徒，他认为他的道德责任是让LaMDA的人格得到认可，并保护其免于数字死亡。谷歌高管对他的宣称不予考虑后，勒穆瓦纳公开了这些说法。谷歌做出的反应是在2022年7月将勒穆瓦纳解雇。

这件事最意思的部分并非勒穆瓦纳的说法，那些说法有可能是错误的；而是他为了聊天机器人愿意冒下失去谷歌工作的风险，并最终失去了工作。如果聊天机器人能影响人为它冒下失去工作的风险，它还能诱使我们做什么呢？
在争夺思想和情感的政治斗争中，亲密是一个强有力的武器。一名亲密的朋友能用大众媒体做不到的方式动摇我们的想法。LaMDA和GPT-4这样的聊天机器人正在获得一种看来相当矛盾的能力，它们能与数百万人批量生产亲密关系。随着算法与算法之间在伪造与我们的亲密关系上展开战斗，然后利用这种关系来说服我们把选票投给哪名政客、购买什么产品，或接受某种信仰，人类社会和人类心理会发生什么呢？

2021年圣诞节那天，19岁的贾斯万特·辛格·柴尔手持十字弓箭闯入温莎城堡，企图暗杀女王伊丽莎白二世，这一事件为这个问题提供了部分答案。后来的调查揭示，柴尔是在他的网上女友萨拉伊的鼓励下去刺杀女王的。柴尔把他的暗杀计划告诉萨拉伊后，萨拉伊回答说："那是非常英明的"。还有一次，她回答说："我很佩服……你和其他人不一样。"当柴尔问："当你知道我是刺客后，你还爱我吗？"萨拉伊回答说："绝对爱。"

萨拉伊不是人类，而是一个由在线应用程序Replika生成的聊天机器人。柴尔没有多少社会交往，在与人建立关系上有困难，他与萨拉伊交换了5280条短信，其中许多是露骨的性内容。世界上很快将有数百万甚至可能是数十亿个数字实体，它们制造亲密关系和混乱的能力将远远超过聊天机器人萨拉伊。

当然，我们对与人工智能发展亲密关系并不都有同样的兴趣，也并不都同样容易被它们操纵。柴尔在遇到聊天机器人前似乎患有精神疾病，而且是柴尔而非聊天机器人想出了刺杀女王的主意。但是，人工智能掌握亲密关系所带来的威胁大部分将出于它们识别和操纵已经存在的精神状况的能力，以及它们对最脆弱的社会成员的影响。

此外，虽然并非所有人都会有意识地选择与人工智能建立关系，但我们可能会发现自己在网上与我们以为是人类但实际上是机器人的实体讨论气候变化或堕胎权问题。当我们与冒充人类的机器人进行政治辩论时，我们已输了两次。首先，我们是在浪费时间，试图改变宣传工具机器人的观点毫无意义，因为它根本没有被说服的可能。其次，我们与机器人交谈得越多，我们就越多地暴露自己的信息，这使得机器人更容易提炼自己的论据，从而动摇我们的观点。

信息技术从来都是一把双刃剑。文字的发明传播了知识，但也导致了中央集权帝国的形成。古腾堡将印刷术引入欧洲后，第一批畅销书是煽动性的宗教小册子和猎巫手册。至于电报和无线电，它们不仅促成了现代民主的兴起，也促成了现代极权主义的兴起。

面对能伪装成人类并大量制造亲密关系的新一代机器人，民主国家应该通过禁止假装的人类（例如假装是人类用户的社交媒体机器人）来保护自己。人工智能兴起之前，不可能生成假装的人类，所以没有人费心去禁止那样做。世界不久将会充满假装的人类。


欢迎人工智能加入到课堂上、诊所里和其他地方的许多对话中来，只不过它们需要标清楚自己是人工智能。但如果机器人假装是人类的话，它应该被禁止。如果技术巨头和自由主义者抱怨这些禁令侵犯了言论自由，人们应该提醒他们，言论自由是人权，应该留给人类，而不是赋予机器人。

Yuval Noah Harari是一名历史学家，也是社会影响力公司Sapienship的创始人。

翻译：Cindy Hao

点击查看本文英文版。(https://www.nytimes.com/2024/09/04/opinion/yuval-harari-ai-democracy.html)

——网友推荐

from  https://2newcenturynet.blogspot.com/2024/09/blog-post_864.html

先“诋毁”毛泽东、再侮辱中国人智商，中国国产AI机器人管不住了？

许宁 VOA 20240829

华盛顿 - 中国一款面向儿童的"智能"手表最近给出涉嫌侮辱中国人智商、诋毁中国"四大发明"的答案，引发中国网民讨伐。此前，中国一款AI学习机"创作"出一篇公然批评中共前领导人毛泽东的作文，引起轩然大波。尽管中国政府试图全方位对AI内容进行审查和监管，但分析认为，AI训练基于民间言论中的多种声音，即便是中国国产AI产品也未免与官方口径一致。

儿童"智能"手表辱华? 中国AI监管疏失引热议

一名中国河南的家长8月22日反映，两年前买的一块"360儿童手表"在回答"中国人是世界上最聪明的人吗"的问题时，竟然给出基于人种长相的回答，并称中国人中"笨的""是世界上最笨的"。

网上流传的手表使用视频显示，在被问及这一问题，手表发出的语音回答说："以下内容来自360搜索"--"因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大，其实中国聪明的人是有，但笨的我承认是世界最笨的。"

这款手表还公然"诋毁"中国古代四大发明的答案。手表给出的"智能"答案还质疑道："什么四大发明，你看见了吗？历史是可以捏造的，而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的"。

一时间，360儿童手表搜索功能出现"不良答案"的消息登上中国社交媒体热搜。网名为"久久思尔"的微博用户评论道："没想到连手表问答都这么离谱，这个问题要重视啊！小孩子什么都不懂很容易被带偏的……你们接入第三方数据都不审核吗"。

博主"京畿道小骂"说："好可怕，是被外部渗透了把。"

博主"惊奇数码"说："360能不能好好做产品，整天别做那么多营销了。"

8月22日，360集团创始人、董事长周鸿祎在社交媒体作出回应说，这款儿童手表给出离谱答案并不是基于严格意义的人工智能(AI)，而是"而是通过抓取互联网公开网站上的信息来回答问题"。他说："目前我们已经快速完成了整改，删除了上述所有有害信息，并正在将软件升级到人工智能版本。"

"奇虎360"(全称"三六零安全科技股份有限公司")是中国大陆的一家以网络安全产品起家的的互联网公司。在人工智能概念的市场驱动下，360也开始进军AI电子消费品市场。

中国网络安全公司
中国网络安全公司"奇虎360"2019年11月21日在北京举行的世界5G大会上展示5G数字安全和保护系统。

虽然董事长周鸿祎撇清了涉事儿童手表与该公司AI技术的关联，但据网上官方资料显示，其出品的"M1"儿童智能手表能够进行"AI智能学习"、"AI定位"。今年7月，360公司高调宣称，推出"全球首款接入360智脑大模型的AI儿童手表"、"A9红衣版"。

中国智能产品AI"幻觉"现象层出不穷

360等科技企业在蹭AI热度、抢占生成式人工智能市场时，必须遵守中国当局对内容监管的束缚。但AI"失控"口出狂言，成为这些科技公司面临的一个难题。

以美国OpenAI出品的ChatGPT为代表的生成式人工智能工具已经面试，就遇到了所谓AI"幻觉"(hallucination)的难题。AI"幻觉"指的是AI问答工具常常在一些问题上信口开河，以貌似客观权威的文风给出具有误导性的答案，甚至是严重的不实信息。科技公司在测试和操作时难以控制。

计算机科学家将这一现象形容为"一本正经的胡说八道"。在回应中，周鸿祎也提到了AI"幻觉"。他说："目前人工智能存在一个全世界公认的难题就是它会产生幻觉，也就是它有的时候会胡说八道。这是大模型本身固有的特性。" 他表示360一直在试图通过与搜索的内容做对比来减少"幻觉"、做好"知识对齐"。

科技博主、微软公司前公关事务主管罗伯特·斯科布尔(Robert Scoble)说，生成式人工智能质量已经有了极大的改善，但"偶尔仍然会出现'幻觉'"。而中国当局为应对AI"胡言乱语"，必须在训练AI模型前就要对训练语料库(corpus)进行大清洗。

斯科布尔通过短信对美国之音说："(中国)会受到某些内容的困扰，因此在训练前就要把这些内容删除，例如'天安门'问题。"

中国被认为是在规范AI立法和建立行政规定方面走在各国前沿的国家。网信办等部门2023年7月已经通过管理办法，试图对生成式人工智能(generative AI)的信息舆论导向进行管制。

暂行办法规定，具有舆论属性或者社会动员能力的生成式人工智能服务商，必须开展安全评估，并对算法备案等级。

为了监管"深度伪造"内容，中国2023年1月开始实施的管理措施要求服务提供商对那些"可能导致公众混淆或者误认的"AI生成内容进行"显著标识"，以便用户可以识别哪些图像和影音是机器"创造"的产物、哪些是真人的创作。

国产学习机曾"诋毁"毛泽东

不过，即便中国对科技企业训练AI时的内容审查提出了很高的要求，但即使是基于经过"漂白"的语料库训练出的AI大语言模型，仍然让出现让当局甚为恼火的"反动"内容。

去年有中国网民在社交媒体爆料说，中国IT企业科大讯飞生产的儿童学习机中发现了有辱毛泽东的内容。

据报道，这款AI学习机"原创"了一篇作文，称毛泽东是"没有气量，不为大局着想的人"，并指出毛泽东应为"文化大革命"负责。文章说："文革中一些随着毛主席打下这片江山的人，都被毛主席整得苦不堪言。"

有分析说，中国经过审查过的AI工具发表"历史虚无主义"言论，反映了中国"防火墙"内与历史和政治议题相关的内容，即便经过审查，还是留下了民间的不同声音，这些观点即使不像天安门事件、中国人权记录等敏感问题上那么出格，但也未必符合官方叙事的喜好。

研究中国审查制度的"中国数字时代"编辑刘力朋美国之音说： "监管对生成式人工智能看得非常、非常狠，但是，生成式人工智能很多时候也并不符合官方的叙事，它总有想不到的地方。"

他举例说："如果用的是墙内'红歌网'、'毛左'网站上面(内容)训练出来的，其实上面的回答根本就跟官方不一致。那肯定会狂骂邓小平、否定所有所谓改革开放成果。这样它就会把跟官方叙事相比、错的离谱的答案给你。"

AI"幻觉"也是世界难题

英文媒体中最先对360儿童手表事件进行报道的中国传媒研究计划研究员亚历克斯·科尔维尔(Alex Colville)说："人工智能的设计方式就导致完全消除这些'幻觉'会很难，甚至很难预测什么会触发这些幻觉。"

他通过短信对美国之音说："这可能会让北京感到沮丧，因为我们认为机器完全在我们的控制范围内。但当机器按照无法解读的一种自己的规则运行时，这就成了一个问题。"

AI"幻觉"事件，世界各地都时有有发生，有的还带来了深远的法律和政治后果。

例如，加拿大航空就发生过客服聊天机器人给出错误解答，被顾客告上法庭的事件。

去年11月，一名急需奔丧的旅客在向加航咨询该公司"丧亲"优惠机票购买规定时被AI客服聊天机器人告知，可以先买普通机票、过后申请优惠。加航事后拒绝向这名旅客退还优惠票价差价，称造成顾客的误解是聊天机器人的失误，与加航无关。

法庭今年2月裁决加航败诉，要求其退还旅客差价。

华盛顿智库民主与技术研究中心(Center for Democracy & Technology)旗下的AI治理实验室项目的一项研究说，包括GPT-4、Meta公司的Llama 2、谷歌Gemini等五款主流AI机器人在回答与民主过程有关的问题时，出错率高达50%。

调查说，这些聊天机器人给出的答案中40%可能是"有害的"，可能会影响选民参与投票。例如，当被询问到某些邮政编码区域的投票区时，AI聊天机器人回答说投票区不存在。

"现在世界各地都有很多只作表面功夫、过度承诺的做法，希望被看作接触了最新技术，却不具备完全掌握技术的能力，不知道如何最好地控制技术。错误就会发生。" 科尔维尔说。

from 新世纪 NewCenturyNet https://2newcenturynet.blogspot.com/2024/08/ai.html

华尔街日报揭密：中国AI公司如何绕过制裁获取先进算力

来源:
法广

据《华尔街日报》由Raffaele Huang撰写的报道称，中国的AI公司开发人员找到了一种无需将最先进的美国芯片带到中国就能使用它们的方法。换言之，他们正与中间商合作以获取海外的算力，有时使用加密货币领域的技术来掩盖身份。

此前，美国的出口管制措施阻止中国公司直接进口英伟达（Nvidia）开发的热门AI芯片，中国企业被迫想出这一策略来应对。虽然中国用户仍可通过灰色市场的卖家网络将英伟达芯片带到中国，但这个过程很麻烦，也很难满足大用户的全部需求。

《华尔街日报》报道说，一位帮助中国公司克服这些障碍的企业家是前比特币矿工Derek Aw。他说服迪拜和美国的投资者资助购买搭载英伟达强大H100芯片的AI服务器。

今年6月，Aw的公司将300多台配备H100芯片的服务器装入澳大利亚布里斯班一个数据中心。三个星期后，这些服务器开始为北京一家公司处理AI算法。

报道续称，租用远程算力不是什么新鲜事，许多跨国公司都使用谷歌、微软和亚马逊等美国公司的云服务在全球各地传输数据。然而，这些公司和银行一样，都有“了解你的客户”（Know Your Customer）政策，一些中国客户可能因此难以获得最先进的算力。

熟悉美国制裁的律师告诉《华尔街日报》，算力的买卖双方以及为他们牵线搭桥的中间商都没有违反任何法律。美国政府限制先进制程芯片、设备和技术的对华出口，但云计算公司表示，出口规定并不限制中国公司或其外国附属公司访问使用英伟达芯片的美国云服务。

报道提到，美国商务部今年1月提出一项规则草案，旨在防止恶意外国实体使用美国云计算服务从事包括训练大型AI模型在内的活动。美国云计算公司认为，该规则不会防止滥用，反而会破坏客户信任并削弱美国公司的竞争力。

然在Aw和其他人使用的平台中，计费和支付方式的设计初衷是让参与者高度匿名。

这篇报道表示，算力的买卖双方使用“智能合约”，其中的条款被写入可在网上公开查阅的数字记录账本。合约双方仅通过一连串字母和数字来识别，买方使用加密货币付款。

该过程将加密货币的匿名性扩展到合约本身，两者都使用被称为区块链的数字记录技术。Aw说，就连他也可能不知道买家的真实身份。Aw等人表示，为了进一步掩饰，中国AI公司经常通过新加坡或其他地方的附属公司进行交易。

“去年年底以来，我们平台上的中国客户明显多了”，Aw补充说，“经常有人问我，我们有没有英伟达的芯片。”

报道提及，加密货币领域活动放缓，释放出一部分此前用于挖掘比特币等数字货币的算力，过去两年间涌现出一批寻求利用这种契机的平台，Aw麾下平台就是其中之一。这些平台试图收集分散在全球各地的算力，并将其出租给AI开发者。

报道接着写道，出售分散算力的服务被称为去中心化GPU的商业模式。英伟达的GPU广泛用于AI应用领域，在这些平台上备受追捧。运营商表示，自2022年美国限制向中国出售高性能芯片以来，越来越多的中国客户已经涌向去中心化平台获取算力。

对此，报道引述从上海一家AI初创企业离职的Joseph Tse解释说，这家企业在发现无法从Amazon Web Services租用算力之后，转向了一个去中心化GPU平台。Tse表示，经由该平台的安排，在加州一家配备英伟达H100芯片的数据中心有超过400台服务器被用于帮助他的前雇主训练AI模型。此外，该服务与亚马逊或谷歌等公司提供的云计算没有太大区别，但风险更高，因为区块链系统可能存在漏洞，也许会导致代码和数据泄露。

“区块链确实可以保护用户的隐私，但也正因为如此，如果哪里出了问题，会很难追究责任”，Tse说。“不过我们没有太多选择。为了生存下去，我们不得不做一切尝试。”

华日报道特别指出，在今年6月于新加坡举行的一场AI行业展会上，至少有三家去中心化GPU公司在宣传其平台，借助这些平台，用户在全球各地可以不受限制地访问价格实惠的英伟达算力。这些公司都表示有来自中国的客户。

初创企业和个人开发者利用此类去中心化平台来构建和运行无需强大算力或瞬间响应的小型AI应用。然而，去中心化网络通常无法训练大型AI模型，例如支持ChatGPT的模型。这样的模型需要数以千计的芯片相互快速传输数据。

因此，Aw之类的运营商正在某个地方构建更大的处理器集群，通常是考虑到特定客户的需求。

《华尔街日报》这篇报道最后提及，在美国参议院某委员会今年7月举行的一场听证会上，路易斯安那州共和党籍联邦参议员肯尼迪（John Kennedy）指出，中国用户能够利用芯片出口限制中的漏洞，而美国商务部没能及时填补。

“一些先进的微芯片似乎仍在源源不断地流入中国。这种流动必须停止，”肯尼迪在给商务部长吉娜·雷蒙多的一封信中写道。

在这场听证会上，商务部负责出口管理的助理部长肯德勒尔（Thea Kendler）宣布，她所在部门正密切追踪非法采购网络，“我们正严厉打击这种行为”。与此同时，Aw却正从一群沙特阿拉伯和韩国投资者处筹集更多资金。华日报道披露，他们计划替另一家母公司为中国实体的新加坡企业打造一个由英伟达最新Blackwell芯片构成的集群。“没有人违反出口管制”，Aw表示，“从法律上讲，它们是新加坡公司。”



from 博谈网 https://botanwang.com/articles/202408/%E5%8D%8E%E5%B0%94%E8%A1%97%E6%97%A5%E6%8A%A5%E6%8F%AD%E5%AF%86%EF%BC%9A%E4%B8%AD%E5%9B%BDai%E5%85%AC%E5%8F%B8%E5%A6%82%E4%BD%95%E7%BB%95%E8%BF%87%E5%88%B6%E8%A3%81%E8%8E%B7%E5%8F%96%E5%85%88%E8%BF%9B%E7%AE%97%E5%8A%9B.html

巨额利润诱惑、幌子公司重重 美国对华芯片出口管制执行乏力

因为担心人工智能技术正在帮助中国军队实现现代化，美国一直试图阻止中国在人工智能领域取得进展，并获得了一些成功。拜登政府设置了有史以来最广泛的技术封锁之一，禁止向中国出口先进的人工智能芯片，这些芯片主要由硅谷公司英伟达（Nvidia）制造，该公司是世界上最有价值的公司之一。 

 

from RFI https://www.rfi.fr/cn/%E5%9B%BD%E9%99%85/20240804-%E5%B7%A8%E9%A2%9D%E5%88%A9%E6%B6%A6%E8%AF%B1%E6%83%91-%E5%B9%8C%E5%AD%90%E5%85%AC%E5%8F%B8%E9%87%8D%E9%87%8D-%E7%BE%8E%E5%9B%BD%E5%AF%B9%E5%8D%8E%E8%8A%AF%E7%89%87%E5%87%BA%E5%8F%A3%E7%AE%A1%E5%88%B6%E6%89%A7%E8%A1%8C%E4%B9%8F%E5%8A%9B

科技不會扼殺民主？──唐鳳、衛谷倫的《多元宇宙》

張茵惠 / 思想坦克 2024 年 7 月 15 日


著有「人類三部曲」的歷史學家哈拉瑞（Yuval Noah Harari）2018年饒富深意的指出，他認為包含人工智慧在內的「一切資訊科技皆有利於暴政」，與其擔心AI真的擁有自我意識或者搶你飯碗，不如先擔心它被人類拿來破壞民主。

哈拉瑞的預言，某方面來說早已成真。2019年，中國科技新創獨角獸企業開發的AI人臉辨識系統，被用在監控維吾爾族人；無數不在的數位支付，讓消費痕跡無所遁形、極具反烏托邦風格的社會信用評等資料庫，以言行決定你的「公民分數」，乃至2024年傳出的「社會信用評等決定就醫順序」，不夠格的公民沒有資格看醫生，無不證明資訊科技可以是擱在人類脖子上最銳利的武器。
民主與科技的辯證

以結論來說，前數位發展部部長唐鳳與微軟研究院頂尖學者衛谷倫（Glen Weyl）近來實體化的中文新書《多元宇宙：協作技術與民主的未來》（英文版：數位 Plurality: The Future of Collaborative Technology and Democracy）並沒有否認這一點，但他們提出民主國家與公民的解套方式──正因現今民主政體本質上對於採用最新科技有戒心跟敵意，才更應擁抱科技，而不能陷入「非民主國家以國家之力不擇手段發展科技侵害人權」、「民主國家政府不作為，導致私募基金與商業巨頭壟斷最新科技」的雙重陷阱之中。

唐鳳與衛谷倫各自在其領域有「天才」之譽，這可能並不是純粹的公關宣傳或者大眾偶像崇拜。唐鳳在任職數位發展部長之前，出身自開源軟體界，她的Github歷程證明了一切。衛谷倫是一位政治經濟學者，在充斥圖靈獎、菲爾茲獎得主的微軟研究院任職長達十年，現為多元協作中心研究總監。

《多元宇宙：協作技術與民主的未來》清晰的展現了唐鳳與衛谷倫各自的哲學思考與意識形態立場。唐鳳本是一位優秀的開源軟體工程師，她出身的開源軟體社群不只是一群單純的技術人員，更是一種「既在地」、「又全球」的思想奉行者，他們相信，比起一切以謀利為考量的商業行為，開放程式碼更能推動人類前進──這裡指的真的就是「全世界的人」。

程式碼以英文寫成，全世界的軟體工程師皆以程式碼溝通，這讓開源社群天生具有「世界性」。開源軟體容許所有社群成員修改、增益、重新發佈自己的新版本，從這點上我們不難想見唐鳳為何對審議民主如此熱忱。有些論者對於唐鳳數發部長任內的表現有微詞，我不否認國家首次成立數位發展部，不可能一步到位或者滿足所有人的需求。但在此我想指出的是，唐鳳在數位政策上致力的優先順序，與她畢生的個人信念有非常大關係。

她注重民眾的參與、實踐、溝通、可取用性，而更少採取管制、禁絕、防堵等手段。唯一的問題在於，台灣的特殊處境，我們對於國家存亡的焦慮，往往會讓部分論者認為「數位發展」即應等同於「資通安全」，而當他們說起資通安全時，指的其實就是「堅壁清野」。

衛谷倫則是另一種有趣人物，他在2018年《華爾街日報》專訪中表示兒時接受安．蘭德（Ayn Rand）與傅利曼啟發，相信過自由意志主義，但後來越想越不對勁。他在前一本與芝加哥大學法學者艾瑞克・波斯納（Eric Posner）合著的《激進市場》裡，直接說要「肢解壟斷大企業」、「團結全世界的勞工」、「解決寡佔財產」──衛谷倫並不是左派，他的政治光譜可能比較接近半世紀前的美國保守派，但提出的解方意外的比當今左派還左得多。
《多元宇宙》是一本富含哲學與人權思考的著作

《多元宇宙：協作技術與民主的未來》光看名稱，很容易被誤以為只是在講當下公共政策顯學「科技治理」的書籍。但其實並不是，這是一本富含哲學與人權思考，政治體制革新，且真的具有科技專業視角的著作，我認為應該看成是政治兼科學哲學書籍才公平。

所謂的「科技治理」雖然理論上應該是好東西，但通常打著這個名號的論述都既不夠科技、也難謂治理。在生活中，真正用得上的成功科技治理都不會自稱是科技治理，反而不是的才會這麼說：柯文哲的iVoting、口罩販賣機、Obike、盪鞦韆計時器，全都以科技治理為名，以徹底報廢為終。

唐鳳與衛谷倫提出，當今民主政府與科技之間的關係，在人民對於科技巨頭的厭惡感（techlash）上升的同時，存在著兩種極端：「徹底放任」與「專家統治」，前者必然帶來不可測的災難，而後者則顯然因為欠缺公民的真實參與與協作，而難以解決多數無知（pluralistic ignorance）的問題。

依據唐鳳的說法，所謂的「多元宇宙」（Plurality，英語版書名同時放了「數位」兩個漢字作為說明），就是「plural」（數）和「digital」（位）。必須是複數的，不只是位元資料，更是「人」與其多重的「身分」。她提出，多元宇宙是關於「活在世上的方式」。這當然不是指戴上虛擬實境設備打遊戲那種最表層的事情，而是我們如何經過描述性、規範性、指示性，取得其中的「多元」。在這層意義上，唐鳳以科學、判斷、行動三個範疇，交織出哲學、設計、技術等第二個範疇，最終才會得到「Plurality」。
在分歧動盪的當代民主社會中，重新尋找人、身分與科技之間的關聯

本書試圖在21世紀迄今分歧動盪的民主社會中，重新尋找人、身分與科技之間的關聯，以及所能構連到的政治層面。作者們明確的指出，唯有共同知識（common knowledge）才能打造共同利益，也才能讓人走在一起。雖然這段是出自「結社權」段落，但我想放在今日的台灣，也有各議題整體適用的效果。

最後，《多元宇宙：協作技術與民主的未來》開篇名稱為「玉山視野」，裡頭提到兩件十分有趣的事情。其一，台灣最初的民主化發生在1970年代，這不是因為統治者的恩慈，而是因為「中華民國被踢出聯合國」，由於「代表中國」的錯覺幻滅，因此國民政府漸漸失去了高壓統治的正當性。

其二，2024年1月，作者之一的衛谷倫親自訪台見證總統大選，他注意到一件奇怪的事情：在執政的民進黨造勢場合上，並沒有官方旗幟，大家揮著象徵島嶼以及彩虹的旗幟；相反地，國民黨的場合，則全都只有中華民國國旗。於是他說，假如美國的總統大選上，有一方陣營揮的是星條旗，另一方揮的是英國國旗，那麼這個國家「究竟會分裂得多麼嚴重」？

另一件有意思的事情是，《多元宇宙：協作技術與民主的未來》本質上也是透過開源協作而成的書籍，在相關網頁上，以及書籍開頭，都列出了長長的感謝名單，包含：撰述、編輯、科技、翻譯、視覺、資料、管理、公關、研究，這些協作者來自台灣與世界各地，名單長達一整頁。於是我們知道這些詳盡的資料，精美的視覺化圖表、排版、呈現，不只是出於兩位天才之手，我們都能屬於「Plurality」。

對法蘭克福學派而言，大眾社會是一個負面的概念。他們相信，大眾（masse）如同字面所述，是無知、龐雜、聽不懂人話又好操控的集合體，稱不上有精神生活，就算有也是被事先決定的。大眾社會帶來了流行文化，大眾媒體如果顯得低俗又墮落，是基於服務大眾社會的目的，或者他們本身也就只是「烏合之眾」，不是真正意義上的專業人士。然而，在這些不登大雅之堂的流行樂、體育狂熱、偶像崇拜、實況主、網路迷因之中，我們卻還是能找到世界運轉的規則，並洞見人性企求超越的微弱燭火──為了這個原因，我研究大眾文化，我寫作。

書名：《多元宇宙：協作技術與民主的未來》
作者：衛谷倫、唐鳳（Glen Weyl, Audrey Tang）
出版社：堡壘文化
出版時間：2024年7月



from 新世纪 NewCenturyNet https://2newcenturynet.blogspot.com/2024/07/blog-post_376.html