基于批判性设计理论破解 E-AI“黑箱”路径分析

王 　婷
武汉体育学院

摘要

本文针对教育人工智能（E-AI）存在的“黑箱”问题及其引发的价值偏差、伦理风险等挑战，旨在构建一种基于
批判性设计理论的分析框架。研究通过理论嫁接与案例推演的方法，系统剖析 E-AI 在事实性、逻辑性与价值性层面的具
体困境，并提出价值嵌入审视、算法透明化设计与教育责任重构等破解路径。结论表明，批判性设计理论能够有效引导 E-AI
实现从技术透明向价值透明的转向，为构建可信、可控且符合教育伦理的智能教育生态提供理论支持与实践蓝图。

关键词

E-AI；黑箱问题；批判性设计；算法透明化；教育伦理

参考

[1] 魏屹东 . 作为适应性表征系统的可解释人工智能 [J].

哲学动态 ,2025,(07):128-141+177.

[2] 刘明君 . 信息过载时代内容筛选的人机协同模式及

其优化 [J]. 出版广角 ,2025,(07):92-98.

[3] 吴昊 , 郑军 . 通用人工智能参与行政决策的功能、问

题与优化 [J]. 中国科技论坛 ,2025,(02):107-116.

[4] 郭全中 , 李黎 . 生成式人工智能将通向隐秘的社

会 ?——一个叠合黑箱的逻辑与实践 [J]. 暨南学报 ( 哲学社

会科学版 ),2024,46(12):81-96.

[5] 陈嘉鑫 , 李宝诚 . 风险社会理论视域下生成式人工

智能安全风险检视与应对 [J]. 情报杂志 ,2025,44(01):128-

135+171.

[6] 刘方喜 . 科学认知通用人工智能及其伦理风险 [J]. 探

索与争鸣 ,2024,(10):132-142+179-180.

[7] 廖新媛 , 周程 . 绕过算法黑箱 : 通过算法代言人建立

算法信任的进路初探 [J]. 自然辩证法研究 ,2024,40(09):20-26.

[8] 董青岭 . 人工智能时代的算法黑箱与信任重建 [J]. 人

民论坛·学术前沿 ,2024,(16):76-82.

[9] 邓明峰 . 算法行政对正当程序原则的挑战与法律规

制研究 [J]. 河北法学 ,2024,42(06):112-126.

[10] 钮心毅 , 林诗佳 , 桑田 , 张小可 . 数字化规划技术——

数据与知识 [J]. 城市规划学刊 ,2024,(02):18-24.

[11] 陈 晓 红 , 陈 姣 龙 , 胡 东 滨 , 梁 伟 . 面 向 环 境 司 法

智能审判场景的人工智能大模型应用探讨 [J]. 中国工程科

学 ,2024,26(01):190-201.

[12] 钟 晓 雯 . 从 算 法“ 黑 箱” 走 向 算 法 透 明： 基 于

“ 硬 法 — 软 法” 的 二 元 法 治 理 模 式 [J]. 中 国 海 商 法 研

究 ,2023,34(04):53-62.

[13] 李 佳 轩 , 储 节 旺 , 杜 秀 秀 . 关 联、 黑 箱 与 赋

能：AIGC 驱 动 智 慧 图 书 馆 的 转 型 路 径 [J]. 图 书 情 报 工

作 ,2023,67(23):18-27.

[14] 林建武 . 嵌入黑箱：一种人机协作的可能性及其问

题 [J]. 江汉论坛 ,2023,(11):65-71.

[15] 侯东德 , 张丽萍 . 生成式人工智能背景下网络信息

生态风险的法律规制 [J]. 社会科学研究 ,2023,(06):93-104.

[16] 程雪军 . 人工智能平台的算法黑箱与治理图景 [J].

法治论坛 ,2023,(02):66-83.

[17] 陈敏 , 孙占利 . 算法“黑箱”的技术与法治耦合治

理 [J]. 法治论坛 ,2022,(04):3-18.

[18] 葛金芬 . 司法人工智能应用中法官的渎职风险及其

刑事责任 [J]. 湖南社会科学 ,2023,(03):94-103.

[19] 黄雅卓 . 算法技术赋能政府职责体系构建及其限度

[J]. 天津行政学院学报 ,2023,25(03):34-42.

[20] 王洋 , 闫海 . 生成式人工智能的风险迭代与规制革

新——以 ChatGPT 为例 [J]. 理论月刊 ,2023,(06):14-24.

[21] 张微 , 彭兰 . 示能、转译与黑箱：智能机器如何颠

覆与再建内容生产网络 [J]. 新闻与写作 ,2022,(12):75-85.

[22] 安德里亚斯·苏德曼 . 论人工智能的媒介政治维度

[J]. 上海师范大学学报 ( 哲学社会科学版 ),2022,51(06):13-23.

[23] 杨延超 . 算法裁判的理论建构及路径选择——基

于若干人工智能实验的启示 [J]. 治理研究 ,2022,38(04):108-

122+127-128.

[24] 秦小建 , 周瑞文 . 人工智能嵌入政府治理的探索及

启示 [J]. 国外社会科学 ,2022,(02):30-45+196.

[25] 唐要家 , 唐春晖 . 基于风险的人工智能监管治理 [J].

社会科学辑刊 ,2022,(01):114-124+209.

[26] 陈醇 . 私法制度中的代数算法黑箱及其应对 [J]. 法

学评论 ,2022,40(01):55-68.

[27] 衣俊霖 . 数字孪生时代的法律与问责——通过技术

标准透视算法黑箱 [J]. 东方法学 ,2021,(04):77-92.

[28] 吴椒军 , 郭婉儿 . 人工智能时代算法黑箱的法治化

治理 [J]. 科技与法律 ( 中英文 ),2021,(01):19-28.

[29] 仇筠茜 , 陈昌凤 . 基于人工智能与算法新闻透明度

的“黑箱”打开方式选择 [J]. 郑州大学学报 ( 哲学社会科学

版 ),2018,51(05):84-88+159.

[30] 纳赛希安 , 焦梅英 , 于祺明 . 找开黑箱：认知科学

和科学史 [J]. 自然辩证法研究 ,1996,(11):66-69+10.

[31] Klein & Lester (2021) “The ethical implications of

AI in education” In The Ethics of AI in Education (Routledge,

pp.1-19).

[32] Zhang, L., & Wang, Y. (2023). Ethical governance

of artificial intelligence in education: A framework for Chinese

contexts. Educational Technology Research and Development,

71(1), 1-20.

[33] Ribeiro, M. T., Singh, S., & Guestrin, C. (2016).

“Why should I trust you?” Explaining the predictions of any

classifier. In Proceedings of the 22nd ACM SIGKDD International

Conference on Knowledge Discovery and Data Mining (pp. 1135-

1144).

[34] Biesta, G. (2015). The Beautiful Risk of Education.

Paradigm Publishers.

[35] Iivari, N., & Kinnula, M. (2018). Empowered to make

a change: Guidelines for empowering children in design. In

Proceedings of the 15th Participatory Design Conference (pp.

1-12).