机遇与争议并存的制度试验 韩国全球率先实施AI监管

本月22日起，韩国正式施行《人工智能发展与信任基础构建基本法》（以下简称《AI基本法》），由此成为全球首个全面实施AI监管法律的国家。尽管欧盟在立法层面更早推出《人工智能法案》，但由于选择分阶段实施，全面生效时间被不断推迟，这使得韩国在落地执行层面抢得先机。
欧盟原计划自2024年8月起对“高风险AI”实施核心监管条款，但欧盟委员会在去年底发布包含监管放宽内容的“数字简化方案”后，外界普遍预计相关条款可能延至2027年底才正式适用。在全球各国将AI视为战略性核心资产、竞相加大财政与政策支持的背景下，韩国此时率先全面实施AI监管法，引发了产业界的广泛争议。
持反对意见者多数认为，过早、过严的监管可能削弱本土AI产业竞争力，支持者则指出，AI技术发展迅猛，而伦理规范与风险治理体系长期滞后，韩国若能全面落实AI基本法，将有机会成为“包容性AI治理”的示范国家。

▲引入“高影响AI”概念 强调安全与可解释性
根据AI基本法，科学技术信息通信部长官需每三年制定一次《AI基本计划》，以系统性提升国家AI竞争力。法律还强化了国家人工智能委员会的治理效能，并将AI安全研究机构的设立正式写入法律条文，用于评估和研究AI潜在风险。
政府强调，立法宗旨并非重罚企业，而是通过最低限度监管和更高的政策可预期性，通过AI基本法来振兴产业。然而，鉴于深度伪造内容泛滥、虚假信息操纵舆论，以及AI可能侵蚀生命权与基本权利等风险，法律引入了“高影响AI”概念。

所谓“高影响AI”，是指在医疗、能源、招聘、信贷审核等与国民生命或权利息息相关的领域中使用的AI系统。这类AI将被要求建立人工监督机制，并主动采取安全保障措施，同时需具备一定程度的“可解释性”，即能够说明AI决策所依据的推理过程。
在自动驾驶领域，目前仍需人类驾驶员介入的L3级自动驾驶不被认定为高影响AI，但完全由系统自主行驶的L4级及以上则被纳入严格监管范围。
▲生成式AI须标识来源 海外巨头须设立本地代理

针对生成式AI，法律规定必须通过可见或不可见水印等方式，明确标识内容为AI生成。法律义务主体主要包括AI模型开发商和AI解决方案或服务提供商，而仅使用AI生成内容的企业或普通用户不在直接监管范围内。
对于海外科技巨头，若满足以下任一条件：上一年度全球营收超过1万亿韩元（约合人民币47.4亿元）、韩国AI服务营收超过100亿韩元、韩国日均用户数超过100万人，则必须在韩国设立本地代理。目前，Open AI和谷歌符合相关条件。
违反AI基本法的企业，最高可被处以3000万韩元罚款。不过，政府明确表示，将设置至少一年的“指导与整改期”（过渡期），以减轻法律对相关产业的冲击。

▲初创企业压力突出 政府强调“AI指南针”定位
对AI基本法实施最为担忧的是AI模型和服务开发领域的初创企业。相较大型科技公司可借助律师事务所或内部法务团队应对合规要求，资金和人力有限的初创企业普遍感到力不从心。
初创企业联盟去年底对101家本土AI初创公司的调查显示，98%的企业表示尚未建立实质性的AI基本法应对体系。尽管政府表示将谨慎行使调查权，并在过渡期内不急于处罚，但“调查权本身”仍可能对挫伤产业创新热情。
有初创企业人士呼吁，有必要效仿《重大灾害处罚法》对小规模企业设置额外宽限期的做法，对AI初创企业给予更多制度性照顾。对此，科技信息通信部回应称，AI基本法的目标不是“惩罚”，而是为行业提供清晰的合规“路线图”，从长期看有助于产业稳定发展。
▲透明性与数据安全仍待强化
随着AI在国防、医疗等高敏感领域的应用日益频繁，学界与业界呼吁进一步强化“黑箱式”AI模型的透明度要求。尤其在开源模型广泛应用的背景下，如何防范国内数据外流及新型网络安全威胁，被认为在现行法律中体现不足。
有观点认为，若AI基本法过度偏向监管，应通过与《个人信息保护法》《信息通信网络法》等现行法律的衔接，构建更灵活的治理体系，以防范利用AI工具实施的新型权利侵害行为。
总体而言，AI基本法的实施既是韩国AI治理的一次大胆尝试，也是对政策平衡能力的重大考验。AI基本法成效如何，不仅将影响本国产业走向，也可能为全球AI监管提供重要参考。

1

王海纳 记者 dongclub@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -