全网唯一标准王
(19)中华 人民共和国 国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202210058567.9 (22)申请日 2022.01.19 (65)同一申请的已公布的文献号 申请公布号 CN 114091673 A (43)申请公布日 2022.02.25 (73)专利权人 华中科技大 学 地址 430074 湖北省武汉市洪山区珞喻路 1037号 (72)发明人 肖泳 石光明 李燕 李莹玉  (74)专利代理 机构 华中科技大 学专利中心 42201 代理人 胡秋萍 (51)Int.Cl. G06N 5/04(2006.01) G06N 5/02(2006.01)G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 7/00(2006.01) G06K 9/62(2022.01) G06F 16/36(2019.01) G06F 21/62(2013.01) H04L 67/51(2022.01) (56)对比文件 CN 112464672 A,2021.0 3.09 CN 111581343 A,2020.08.25 CN 112800247 A,2021.0 5.14 CN 110717052 A,2020.01.21 US 20152 27839 A1,2015.08.13 US 20183 59111 A1,2018.12.13 审查员 杨帆 (54)发明名称 语义编码器、 解码器和语义 通信框架 (57)摘要 本发明公开了语义编码器、 解码器和语义通 信框架, 属于语义通信领域。 本发明在传统的语 义通信架构基础上, 在语义编码器中增加语义比 较器, 在语义解码器增加语义推理器。 所述语义 通信架构不在发送方对语义信息进行直接编码, 而是训练一个语义比较器, 该语义比较器能够区 分出发送方的专家推理路径, 语义推理器通过和 语义比较器对抗式训练, 学习到语义发送方专家 推理路径的推理机制, 最后直接能对接收到的信 息进行解码恢复出语义信息, 解决了对隐式语义 信息中的语义推理机制难以编码的问题, 并且能 够实现语义信息的解码。 权利要求书2页 说明书9页 附图4页 CN 114091673 B 2022.04.08 CN 114091673 B 1.一种语义编码器, 其位于源用户端, 其特征在于, 所述语义编码器包括: 实体探测器、 向量转换器和语义比较 器; 所述实体探测器, 用于识别出源信号中的每 个实体, 表示 为标签形式; 所述向量转换器, 用于将实体的标签形式转化为实体向量, 将实体向量发送给目的用 户端; 所述语义比较器, 用于在训练阶段接收目的用户端反馈的推理路径, 结合私有知识库 中的专家推理路径, 基于两个推理路径的分数差进行更新, 使得对专家推理路径的分数更 高, 反馈推理路径分数更低, 将更新后语义比较器生成的反馈推理路径的分数输出至目的 用户端, 其中, 分数能够反映推理路径为专 家推理路径的概 率; 语义比较 器的训练损失函数为: 其中, 表示期望函数, 为语义比较器中的评分器, 为评分器的网络参数, 为专家推理路径向量, 为语义推理器生成的推理路径向量; 所述推理路径包括: 实体、 关系和语义推理机制; 源信号中属于真实世界的物质或者 概念表示 为一个实体; 两个实体之间的一种联系表示 为一条关系; 语义推理机制用于对源信号中的单个或者多个实体进行推理, 推理出不 能从源信号中 自动识别出来的潜在的实体和/或关系。 2.一种语义解码器, 其位于目的用户端, 其特征在于, 所述语义解码器包括: 语义推理 器; 所述语义推理器, 用于接收源用户端发送的实体向量, 结合目的用户端知识库, 推理出 关于实体的推理路径; 在训练阶段将推理出 的推理路径反馈至源用户端, 接 收源用户端反 馈的对推理路径的分数, 并基于该分数进 行更新, 使 得产生的推理路径得到的分数更高, 在 通信阶段将推理出 的推理路径直接作为语义信息, 其中, 分数能够反映推理路径为专家推 理路径的概 率; 语义推理器的损失函数为: 其中, 表示期望函数, 为语义推理器生成的推理路径 向量, 为基于推 理策略网络 和最大跳数 生成的推理路径 集, 表示从推理路径集 中 提取推理路径 , 为推理策略网络的参数, 为当前语义比较 器中的评分器; 所述推理路径包括: 实体、 关系和语义推理机制; 源信号中属于真实世界的物质或者 概念表示 为一个实体; 两个实体之间的一种联系表示 为一条关系; 语义推理机制用于对源信号中的单个或者多个实体进行推理, 推理出不 能从源信号中权 利 要 求 书 1/2 页 2 CN 114091673 B 2自动识别出来的潜在的实体和/或关系。 3.如权利要求2所述的语义解码器, 其特征在于, 所述语义推理器采用马尔可夫 决策过 程对实体进行推理, 其中, 环境为目的用户端知识库, 表示形式为知识图谱; 状态为当前实体的向量表示、 源实体的向量表示以及目标实体的向量表示 拼接; 动作为给定一个状态, 从当前环境中, 选择当前实体连接的一个关系以及该关系连接 的除当前实体外的另外一个实体来扩展路径; 奖励: 将接收到的对推理路径的分数作为推理路径的奖励, 仅在训练推理策略时使用; 推理策略为神经网络, 输入为当前状态, 输出为关于所有的可能的动作的一个概率分 布, 对应动作的概 率值越大则越有可能被执 行。 4.如权利要求3所述的语义解码器, 其特征在于, 训练阶段按概率随机选择动作, 通信 阶段选择概 率最大的动作。 5.如权利要求2所述的语义解码器, 其特征在于, 语义推理器接收源用户端发送的实体 向量后, 在目的用户端知识库中找到与其最接近的实体 向量, 将此作为需要进行推理的实 体。 6.一种语义 通信架构, 其特 征在于, 包括源用户端和目的用户端; 所述源用户端采用如权利要求1所述的语义编码器; 所述目的用户端采用如权利要求2至 5任一项所述的语义 解码器。 7.如权利要求6所述的语义通信架构, 其特征在于, 从未进行语义通信的源用户端和目 的用户端, 进行第一次语义 通信之前, 按照以下 方式进行训练: 步骤S0: 语义推理器中的推理策略随机初始化, 语义比较 器随机初始化; 步骤S1: 语义推理器推理出对于训练集中实体的推理路径, 将产生的推理路径的向量 发送给语义比较 器; 步骤S2: 语义比较器分别对接收到的反馈推理路径和专家推理路径生成分数, 基于生 成的反馈推理路径的分数和专家推理路径的分数差进 行更新, 使 更新之后的语义比较器能 够给专家推理路径更高的分数, 而给反馈推理路径更低的分数; 更新之后的语义比较器生 成反馈推理路径的分数, 发送给语义推理器; 步骤S3: 语义推理器采用强化学习的方法, 基于最新的语义比较器训练更新, 使生成的 路径能够得到更高的分数; 步骤S4: 重复步骤S1 ‑S3, 直至语义推理器和语义比较 器收敛或达 到最大训练次数。权 利 要 求 书 2/2 页 3 CN 114091673 B 3

.PDF文档 专利 语义编码器、解码器和语义通信框架

文档预览
中文文档 16 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共16页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 语义编码器、解码器和语义通信框架 第 1 页 专利 语义编码器、解码器和语义通信框架 第 2 页 专利 语义编码器、解码器和语义通信框架 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 09:00:18上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。