【环球新要闻】大型语言模型与知识图谱协同研究综述:两大技术优势互补
机器之心报道
编辑:杜伟
多图综述理清当前研究现状,这篇 29 页的论文值得一读。
(资料图片)
大型语言模型(LLM)已经很强了,但还可以更强。通过结合知识图谱,LLM 有望解决缺乏事实知识、幻觉和可解释性等诸多问题;而反过来 LLM 也能助益知识图谱,让其具备强大的文本和语言理解能力。而如果能将两者充分融合,我们也许还能得到更加全能的人工智能。
今天我们将介绍一篇综述 LLM 与知识图谱联合相关研究的论文,其中既包含用知识图谱增强 LLM 的研究进展,也有用 LLM 增强知识图谱的研究成果,还有 LLM 与知识图谱协同的最近成果。文中概括性的框架展示非常方便读者参考。
论文:https://arxiv.org/abs/2306.08302v1
BERT、RoBERTA 和 T5 等在大规模语料库上预训练的大型语言模型(LLM)已经能非常优秀地应对多种自然语言处理(NLP)任务,比如问答、机器翻译和文本生成。近段时间,随着模型规模的急剧增长,LLM 还进一步获得了涌现能力,开拓了将 LLM 用作通用人工智能(AGI)的道路。ChatGPT 和 PaLM2 等先进的 LLM 具有数百上千亿个参数,它们已有潜力解决许多复杂的实际任务,比如教育、代码生成和推荐。
尽管 LLM 已有许多成功应用,但由于缺乏事实知识,它们还是备受诟病。具体来说,LLM 会记忆训练语料库中包含的事实和知识。但是,进一步的研究表明,LLM 无法回忆出事实,而且往往还会出现幻觉问题,即生成具有错误事实的表述。举个例子,如果向 LLM 提问:「爱因斯坦在什么时候发现了引力?」它可能会说:「爱因斯坦在 1687 年发现了引力。」但事实上,提出引力理论的人是艾萨克・牛顿。这种问题会严重损害 LLM 的可信度。
LLM 是黑箱模型,缺乏可解释性,因此备受批评。LLM 通过参数隐含地表示知识。因此,我们难以解释和验证 LLM 获得的知识。此外,LLM 是通过概率模型执行推理,而这是一个非决断性的过程。对于 LLM 用以得出预测结果和决策的具体模式和功能,人类难以直接获得详情和解释。尽管通过使用思维链(chain-of-thought),某些 LLM 具备解释自身预测结果的功能,但它们推理出的解释依然存在幻觉问题。这会严重影响 LLM 在事关重大的场景中的应用,比如医疗诊断和法律评判。举个例子,在医疗诊断场景中,LLM 可能误诊并提供与医疗常识相悖的解释。这就引出了另一个问题:在一般语料库上训练的 LLM 由于缺乏特定领域的知识或新训练数据,可能无法很好地泛化到特定领域或新知识上。
为了解决上述问题,一个潜在的解决方案是将知识图谱(KG)整合进 LLM 中。知识图谱能以三元组的形式存储巨量事实,即 (头实体、关系、尾实体),因此知识图谱是一种结构化和决断性的知识表征形式,例子包括 Wikidata、YAGO 和 NELL。知识图谱对多种应用而言都至关重要,因为其能提供准确、明确的知识。此外众所周知,它们还具有很棒的符号推理能力,这能生成可解释的结果。知识图谱还能随着新知识的持续输入而积极演进。此外,通过让专家来构建特定领域的知识图谱,就能具备提供精确可靠的特定领域知识的能力。
然而,知识图谱很难构建,并且由于真实世界知识图谱往往是不完备的,还会动态变化,因此当前的知识图谱方法难以应对。这些方法无法有效建模未见过的实体以及表征新知识。此外,知识图谱中丰富的文本信息往往会被忽视。不仅如此,知识图谱的现有方法往往是针对特定知识图谱或任务定制的,泛化能力不足。因此,有必要使用 LLM 来解决知识图谱面临的挑战。图 1 总结了 LLM 和知识图谱的优缺点。
图 1:LLM 和知识图谱的优缺点总结。
如图所示,LLM 的优点:一般知识、语言处理、泛化能力。LLM 的缺点:隐含知识、幻觉问题、无法决断问题、黑箱、缺乏特定领域的知识和新知识。知识图谱的优点:结构化的知识、准确度、决断能力、可解释性、特定领域的知识、知识演进。知识图谱的缺点:不完备性、缺乏语言理解、未见过的知识。
近段时间,将 LLM 和知识图谱联合起来的可能性受到了越来越多研究者和实践者关注。LLM 和知识图谱本质上是互相关联的,并且能彼此互相强化。如果用知识图谱增强 LLM,那么知识图谱不仅能被集成到 LLM 的预训练和推理阶段,从而用来提供外部知识,还能被用来分析 LLM 以提供可解释性。而在用 LLM 来增强知识图谱方面,LLM 已被用于多种与知识图谱相关的应用,比如知识图谱嵌入、知识图谱补全、知识图谱构建、知识图谱到文本的生成、知识图谱问答。LLM 能够提升知识图谱的性能并助益其应用。在 LLM 与知识图谱协同的相关研究中,研究者将 LLM 和知识图谱的优点融合,让它们在知识表征和推理方面的能力得以互相促进。
这篇论文将在联合 LLM 与知识图谱方面提供一个前瞻性的路线图,帮助读者了解如何针对不同的下游任务,利用它们各自的优势,克服各自的局限。其中包含详细的分类和全面的总结,并指出了这些快速发展的领域的新兴方向。本文的主要贡献包括:
1, 路线图:文中提供了一份 LLM 和知识图谱整合方面的前瞻性路线图。这份路线图包含联合 LLM 与知识图谱的三个概括性框架:用知识图谱增强 LLM、用 LLM 增强知识图谱、LLM 与知识图谱协同。可为联合这两种截然不同但互补的技术提供指导方针。
2, 分类和总结评估:对于该路线图中的每种整合模式,文中都提供了详细的分类和全新的分类法。对于每种类别,文中都从不同整合策略和任务角度总结评估了相关研究工作,从而能为每种框架提供更多见解。
3, 涵盖了新进展:文中覆盖了 LLM 和知识图谱的先进技术。其中讨论了 ChatGPT 和 GPT-4 等当前最先进的 LLM 以及多模态知识图谱等知识图谱新技术。
4, 挑战和未来方向:文中也会给出当前研究面临的挑战并给出一些有潜力的未来研究方向。
LLM 和知识图谱基础知识
大型语言模型(LLM)
在大规模语料库上预训练的 LLM 可以解决多种 NLP 任务,拥有巨大潜力。如图 3 所示,大多数 LLM 都源自 Transformer 设计,其中包含编码器和解码器模块,并采用了自注意力机制。LLM 可以根据架构不同而分为三大类别:仅编码器 LLM、编码器 - 解码器 LLM、仅解码器 LLM。图 2 总结了一些代表性 LLM,涉及不同架构、模型大小和是否开源。
图 2:近些年有代表性的 LLM。实心方框表示开源模型,空心方框则是闭源模型。
图 3:基于 Transformer 并使用了自注意力机制的 LLM 的示意图。
prompt 工程设计
prompt 工程设计是一个全新领域,其关注的是创建和优化 prompt,从而让 LLM 能最有效地应对各种不同应用和研究领域。如图 4 所示,prompt 是 LLM 的自然语言输入序列,需要针对具体任务(如情绪分类)创建。prompt 可包含多个元素,即:指示、背景信息、输入文本。指示是告知模型执行某特定任务的短句。背景信息为输入文本或少样本学习提供相关的信息。输入文本是需要模型处理的文本。
图 4:一个情绪分类 prompt 的示例。
prompt 工程设计的目标是提升 LLM 应对多样化复杂任务的能力,如问答、情绪分类和常识推理。思维链(CoT)prompt 是通过中间推理步骤来实现复杂推理。另一种方法则是通过整合外部知识来设计更好的知识增强型 prompt。自动化 prompt 工程(APE)则是一种可以提升 LLM 性能的 prompt 自动生成方法。prompt 让人无需对 LLM 进行微调就能利用 LLM 的潜力。掌握 prompt 工程设计能让人更好地理解 LLM 的优劣之处。
知识图谱(KG)
知识图谱则是以 (实体、关系、实体) 三元组集合的方式来存储结构化知识。根据所存储信息的不同,现有的知识图谱可分为四大类:百科知识型知识图谱、常识型知识图谱、特定领域型知识图谱、多模态知识图谱。图 5 展示了不同类别知识图谱的例子。
图 5:不同类别知识图谱示例。
应用
LLM 和知识图谱都有着广泛的应用。表 1 总结了 LLM 和知识图谱的一些代表性应用。
表 1:LLM 和知识图谱的代表性应用。
路线图与分类
下面会先给出一份路线图,展现将 LLM 和知识图谱联合起来的框架,然后将对相关研究进行分类。
路线图
图 6 展示了将 LLM 和知识图谱联合起来的路线图。这份路线图包含联合 LLM 与知识图谱的三个框架:用知识图谱增强 LLM、用 LLM 增强知识图谱、LLM 与知识图谱协同。
图 6:联合知识图谱和 LLM 的一般路线图。
图 7:LLM 与知识图谱协同的一般框架,其中包含四层:数据、协同模型、技术、应用。
分类
为了更好地理解联合 LLM 和知识图谱的研究,论文进一步提供了每种框架的细粒度分类。具体来说,这里关注的是整合 LLM 与知识图谱的不同方法,即:用知识图谱增强 LLM、用 LLM 增强知识图谱、LLM 与知识图谱协同。图 8 细粒度地展示了相关研究的分类情况。
图 8:联合 LLM 与知识图谱的相关研究分类。
用知识图谱增强 LLM
大型语言模型在许多自然语言处理任务上都表现出色。但是,由于 LLM 缺乏实际知识而且常在推理时生成事实性错误,因此也饱受批评。解决该问题的一种方法是用知识图谱增强 LLM。
具体的方式有几种,一是使用知识图谱增强 LLM 预训练,其目的是在预训练阶段将知识注入到 LLM 中。二是使用知识图谱增强 LLM 推理,这能让 LLM 在生成句子时考虑到最新知识。三是使用知识图谱增强 LLM 可解释性,从而让我们更好地理解 LLM 的行为。表 2 总结了用知识图谱增强 LLM 的典型方法。
表 2:用知识图谱增强 LLM 的方法。
用知识图谱增强 LLM 预训练
现有的 LLM 主要依靠在大规模语料库上执行无监督训练。尽管这些模型在下游任务上表现卓越,它们却缺少与现实世界相关的实际知识。在将知识图谱整合进 LLM 方面,之前的研究可以分为三类:将知识图谱整合进训练目标、将知识图谱整合进 LLM 的输入、将知识图谱整合进附加的融合模块。
图 9:通过文本 - 知识对齐损失将知识图谱信息注入到 LLM 的训练目标中,其中 h 表示 LLM 生成的隐含表征。
图 10:使用图结构将知识图谱信息注入到 LLM 的输入中。
图 11:通过附加的融合模块将知识图谱整合到 LLM 中。
用知识图谱增强 LLM 推理
以上方法可以有效地将知识与 LLM 的文本表征融合到一起。但是,真实世界的知识会变化,这些方法的局限是它们不允许更新已整合的知识,除非对模型重新训练。因此在推理时,它们可能无法很好地泛化用于未见过的知识。
一些研究关注的正是分离知识空间与文本空间以及在推理时注入知识。这些方法主要关注的是问答(QA)任务,因为问答既需要模型捕获文本语义,还需要捕获最新的现实世界知识。
图 12:用于 LLM 推理的动态知识图谱融合。
图 13:通过检索外部知识来增强 LLM 生成。
用知识图谱增强 LLM 可解释性
尽管 LLM 在许多 NLP 任务上都表现不凡,但由于缺乏可解释性,依然备受诟病。LLM 可解释性是指理解和解释大型语言模型的内部工作方式和决策过程。这能提升 LLM 的可信度并促进 LLM 在事关重大的场景中的应用,比如医疗诊断和法律评判。由于知识图谱是以结构化的方式表示知识,因此可为推理结果提供优良的可解释性。因此,研究者必然会尝试用知识图谱来提升 LLM 的可解释性;相关研究大致可分为两类:用于语言模型探测的知识图谱、用于语言模型分析的知识图谱。
图 14:使用知识图谱进行语言模型探测的一般框架。
图 15:使用知识图谱进行语言模型分析的一般框架。
用 LLM 增强知识图谱
知识图谱的显著特点就是结构化的知识表示。它们适用于许多下游任务,比如问答、推荐和网络搜索。但是,传统知识图谱往往不完备,并且已有方法往往不会考虑文本信息。
为了解决这些问题,已有研究者考虑使用 LLM 来增强知识图谱,使其能考虑文本信息,从而提升在下游任务上的表现。表 3 总结了代表性的研究工作。这里会涉及到使用 LLM 对知识图谱进行不同增强的方法,包括知识图谱嵌入、知识图谱补全、知识图谱到文本生成、知识图谱问答。
表 3:用 LLM 增强知识图谱的代表性方法。
用 LLM 增强知识图谱嵌入
知识图谱嵌入(KGE)的目标是将每个实体和关系映射到低维的向量(嵌入)空间。这些嵌入包含知识图谱的语义和结构信息,可用于多种不同的任务,如问答、推理和推荐。传统的知识图谱嵌入方法主要依靠知识图谱的结构信息来优化一个定义在嵌入上的评分函数(如 TransE 和 DisMult)。但是,这些方法由于结构连接性有限,因此难以表示未曾见过的实体和长尾的关系。
图 16 展示了近期的一项研究:为了解决这一问题,该方法使用 LLM 来编码实体和关系的文本描述,从而丰富知识图谱的表征。
图 16:将 LLM 用作知识图谱嵌入的文本编码器。
图 17:用于联合文本与知识图谱嵌入的 LLM。
用 LLM 增强知识图谱补全
知识图谱补全(KGC)任务的目标是推断给定知识图谱中缺失的事实。类似于 KGE,传统 KGC 方法主要关注的是知识图谱的结构,而不会考虑广泛的文本信息。
但是,近期有研究将 LLM 整合到了 KGC 方法中来编码文本或生成事实,取得了更好的 KGC 表现。根据使用方式,这些方法分为两类:将 LLM 用作编码器(PaE)、将 LLM 用作生成器(PaG)。
图 18:将 LLM 用作编码器(PaE)来补全知识图谱的一般框架。
图 19:将 LLM 用作生成器(PaG)来补全知识图谱的一般框架 En. 和 De. 分别表示编码器和解码器。
图 20:使用基于 prompt 的 PaG 来补全知识图谱的框架。
用 LLM 增强知识图谱构建
知识图谱构建涉及到为特定领域内的知识创建结构化的表示。这包括识别实体以及实体之间的关系。知识图谱构建过程通常涉及多个阶段,包括:实体发现、共指消解和关系提取。图 21 展示了将 LLM 用于知识图谱构建各个阶段的一般框架。近期还有研究探索了端到端知识图谱构建(一步构建出完整的知识图谱)以及直接从 LLM 中蒸馏出知识图谱。
图 21:基于 LLM 的知识图谱构建的一般框架。
图 22:从 LLM 中蒸馏出知识图谱的一般框架。
用 LLM 增强知识图谱到文本生成
知识图谱到文本(KG-to-text)生成的目标是生成能准确一致地描述输入知识图谱信息的高质量文本。知识图谱到文本生成连接了知识图谱与文本,能显著提升知识图谱在更现实的自然语言生成场景中的可用性,包括故事创作和基于知识的对话。但是,收集大量知识图谱 - 文本平行数据难度很大,成本很高,这会导致训练不充分和生成质量差。
因此,有许多研究致力于解决这些问题:如何利用 LLM 的知识?如何构建大规模的弱监督知识图谱 - 文本语料库来解决这个问题?
图 23:知识图谱到文本生成的一般框架。
用 LLM 增强知识图谱问答
知识图谱问答(KGQA)的目标是根据知识图谱存储的结构化事实来寻找自然语言问题的答案。KGQA 有一个无可避免的挑战:检索相关事实并将知识图谱的推理优势扩展到问答任务上。因此,近期有研究采用 LLM 来填补自然语言问题与结构化知识图谱之间的空白。
图 24 给出了将 LLM 用于 KGQA 的一般框架,其中 LLM 可用作实体 / 关系提取器和答案推理器。
图 24:将 LLM 用于知识图谱问答的一般框架。
LLM 与知识图谱协同
LLM 与知识图谱协同近年来赢得了不少关注,该方法能将 LLM 和知识图谱的优点融合,从而更好地应对各种下游任务。举个例子,LLM 可用于理解自然语言,同时知识图谱可作为提供事实知识的知识库。将 LLM 和知识图谱联合起来可以造就执行知识表征和推理的强大模型。
这里从两个方面关注了 LLM 与知识图谱协同:知识表征、推理。表 4 总结了代表性的研究工作。
表 4:LLM 与知识图谱协同方法汇总。
知识表征
文本语料库和知识图谱都包含大量知识。但是,文本语料库中的知识通常是隐式的和非结构化的,而知识图谱中的知识是显式的和结构化的。因此,想要以统一方式来表示这些知识,就必须对齐文本语料库和知识图谱中的知识。图 25 给出了针对知识表征任务统一 LLM 和知识图谱的一般框架。
图 25:针对知识表征任务统一 LLM 和知识图谱的一般框架。
KEPLER 是一种用于知识嵌入和预训练语言表征的统一模型。KEPLER 会使用 LLM 将文本实体描述编码成它们的嵌入,然后对知识嵌入和语言建模目标进行联合优化。JointGT 提出了一种知识图谱 - 文本联合表征学习模型,其中提出了三个预训练任务来对齐知识图谱和文本的表征。DRAGON 则给出了一种自监督方法,可以基于文本和知识图谱来预训练一个语言 - 知识的联合基础模型。其输入是文本片段和相关的知识图谱子图,并会双向融合来自这两种模式的信息。然后,DRAGON 会利用两个自监督推理任务(掩码语言建模和知识图谱链接预测)来优化该模型的参数。HKLM 则引入了一种联合 LLM,其整合了知识图谱来学习特定领域知识的表征。
推理
为了同时利用 LLM 和知识图谱的优势,研究者也通过 LLM 和知识图谱协同来执行多种应用的推理任务。在问答任务中,QA-GNN 首先会利用 LLM 来处理文本问题,再引导知识图谱的推理步骤。这样一来就构建了文本和结构化信息之间的桥梁,从而能为推理过程提供解释。
在知识图谱推理任务中,LARK 提出了一种由 LLM 引导的逻辑推理方法。其首先会将传统的逻辑规则转换成语言序列,然后要求 LLM 推理出最终输出。此外,Siyuan et al. 通过一个统一框架统一了结构推理和语言模型预训练。给定一个文本输入,他们采用 LLM 来生成逻辑查询,其可在知识图谱上执行以获取结构化的上下文信息。最后,这个结构化的上下文会与文本信息融合以生成最终输出。
RecInDial 则将知识图谱与 LLM 组合起来在对话系统中提供个性化推荐。KnowledgeDA 提出了一种统一的领域语言模型开发流程,可使用领域知识图谱增强针对特定任务的训练过程。
未来方向
在联合知识图谱和大型语言模型方面还有诸多挑战有待解决,下面简单给出了这一研究领域的一些未来研究方向:
将知识图谱用于检测 LLM 的幻觉; 将知识图谱用于编辑 LLM 中的知识; 将知识图谱用于黑箱 LLM 知识注入; 将多模态 LLM 用于知识图谱; 将 LLM 用于理解知识图谱的结构; 将 LLM 和知识图谱协同用于双向推理。标签:
推荐文章
- 【环球新要闻】大型语言模型与知识图谱协同研究综述:两大技术优势互补
- 神犬小七大结局为什么小七走了(神犬小七大结局小七为什么受重伤) 全球快资讯
- 西安二手房可“带押过户” 焦点资讯
- 全球百事通!安徽合肥:列车全面体检 确保暑运安全
- 世界播报:黄曲霉毒素的结构_黄曲霉毒素相关内容简介介绍
- 超级飞侠大电影首映嘉年华引爆粉丝派对 亲子相伴暑假欢乐时光 全球报道
- 7月3日国内镧铈系稀土价格走势暂稳_世界微动态
- 走进乐都,与悠远的历史相遇
- 【环球快播报】2023年4月南京市(境内目的地/货源地)进出口总额及进出口差额统计分析
- 微众银行微众企业+四度参展投融会,创新数字金融服务助力小微企业高质量发展-每日热点
- 中邮证券:给予国城矿业买入评级
- 观速讯丨中信建投多因子与ESG策略研究员陈添奕:未来三五年是国内ESG的投资元年
- 全球观天下!河北省成立氢能产业创新联合体 由京津冀等区域共同发起成立
- 世界通讯!包揽4大权威国际设计大奖 小小优酷IP产品力爆棚
- 青岛税务:三“心”提升服务质效 助力个税汇缴收官
- 沃森生物:6月30日融券卖出8.39万股,融资融券余额46.43亿元
- 后备人才建设为曲江人才梯队搭建注入“源头活水”
- 丁学东同志任全国社会保障基金理事会党组书记-天天热门
- 全球球精选!中国女排3:2逆转美国队 晋级世联赛总决赛
- 被“没收”48亿后,小米印度密集裁员?公司回应…… 速讯
- 东北铁路列车运行框架全面优化 实现“进京”高铁“公交化”_世界消息
- 环球观天下!史诗级强化!曼城第2签来了,世界杯巨星点头愿加盟,转会费1亿
- 上海发布推动制造业高质量发展三年行动计划 热门
- 雅迪x5和x7哪个好_雅迪x5_全球百事通
- 天天要闻:注册税务师和注册会计师哪个更好考_注册税务师和注册会计师哪个好考
- Mysteel月报:7月彩涂板卷价格或震荡上涨 观天下
- 天天播报:镜花风月之一怪谈(镜花风月)
- 行贿案的主要犯罪事实和量刑档次是怎样的
- 中国人民大学:部分学生信息被非法获取,正配合警方调查
- 宝宝常见病食疗按摩护理/天天健康
- 恒瑞医药:获得《药物临床试验批准通知书》
- 全球信息:中国央行调查:二季度企业家宏观经济热度指数30.9%,同比升4.3个百分点
- 兴义市发布雷电黄色预警|全球看点
- 硬-log | 试驾全新英仕派:雅阁兄弟车 质感稍高但不多
- 6个月28项 中国载人航天交出亮眼年中“成绩单”
- 极氪汽车6月交付10620辆,同比增长146.9%
- 广州今年初台预计在7月中旬末至下旬,或出现40℃以上高温
- 致敬!为了让河水更清澈,他们冒着阳光炙烤收割水草|当前资讯
- 汪小菲直播赴台接娃回北京,玥儿迫不及待跟爸走,大S默许不敢言|环球即时
- 每当没钱的时候就瞄准了老百姓,专家建议房屋养老金,被网友狂怼|天天热推荐
- 【当前热闻】软银赛富任栋(软银赛富)
- 焦点资讯:五的成语有哪些成语大全(五的成语)
- 【报资讯】arccosx图像是什么函数_arccosx图像是什么
- 急速V28酒吧
- 焦点讯息:诺基亚客服维修中心_诺基亚客服
- 世界新动态:红米k70预计上市时间(红米k70手机上市时间)
- 动漫壁纸(3)-新要闻
- “爱国拥军好妈妈”胡玉萍
- 官禁民灯_世界速读
- 黑河房屋侵权纠纷律师怎么收费 环球时讯
- 看点:卖房+创始人归来电商直播 周杰伦曾代言的这家服饰能否摆脱面值退市危机?
- 天天看点:“活”力全开!普陀区第六届机关运动会开幕
- 全球观天下!她自费为小区买儿童滑梯,邻居摔伤后索赔20万?
- 环球快报:安全形势严峻复杂,中国驻中非使馆紧急领事安全提醒
X 关闭
最新资讯
- 迪生力(603335)6月30日主力资金净卖出1508.69万元|今日报
- 环球实时:四川成都到香港高铁7月1日首发
- 老人怎么画 ?不学会怎么处理当然就画不出来
- 观天下!你有没有因为一个片段看完一整部电影?
- 百合网怎么注销账号
- 清风头条丨泸溪县:强化监督推动“三湘护农”走深走实_世界看热讯
- 上半年A股股民调查:赚钱效应弱 58%的股民表示“亏惨了” 世界热推荐
- 洗面奶排行榜好用的洗面奶推荐 洁面乳全球排行榜10强 热点
- 前沿资讯!宁波大学的学生宿舍_宁波大学宿舍如何选
- 美国将在2023年7月31日恢复联合国教科文组织会员国身份 当前快播
- 伊豆的舞女电影完整(伊豆的舞女)
- 资讯:盛屯矿业:全资子公司拟收购盛屯环球资源35%的股权
- 适合女生的qq名字可爱_适合女生的qq名字
- 决战三国志无敌版_决战三国志作弊码 实时
- 今日精选:什么网址导航做主页好(哪个主页导航最好用)
- 暗黑类单机手游哪款最好_求推荐有什么暗黑类的手游
- 【全球热闻】江西3000亿产业基金落地
- 维宏股份(300508):该股换手率大于8%(06-30) 全球观热点
- 我国首所中外合办研究生院迎来建院十周年
- 永州市中心医院与宁远县人民医院医联体座谈会暨耳鼻咽喉头颈外科专科联盟签约仪式举行 环球观点
- 中国香港青年代表讲述国安法给香港带来的积极变化
- 破产逃债行为的表现形式以及应该怎么处理!
- 塑料容器微波加热时释放大量微粒-当前动态
- 每日看点!灏怎么读拼音,什么意思,灏字取名的寓意?
- 全球最资讯丨汪世杰
- 国家电投严正声明:中广通科技(酒泉)有限公司非集团下属公司
- 赣州友邦大药房零售连锁有限公司销售劣药案
- 徐工机械000425
- 环球滚动:姬芮怎么读拼音_姬芮怎么读
- 环球消息!圆锥母线怎么求(圆锥母线)
- 见习生是什么意思啊_见习生是什么意思
- 港囧票房多少?_港囧票房多少 今日看点
- 天天新消息丨庭院甲鱼养殖技术大全_甲鱼养殖技术大全 怎么养殖甲鱼
- 蒸虾一般要蒸多长时间能熟_蒸虾一般要蒸多长时间
- 速递!勇往直前歌词简谱_勇往直前歌词
- 【天天新视野】盗马记粤语_盗马
- 铜川市积极对接布防中省企业工程抢险力量
- 湘潭县开展养老服务机构安全生产联合检查
- 国乒大爆冷!主力首轮输球,梁靖崑、钱天一被淘汰,年轻小将晋级-世界报资讯
- 2023广东深圳产假法定多少天?-每日热点
- 世界动态:华北40℃高温“返场”!风雹等强对流天气也不容忽视!
- 实时:重庆22个区县遭遇暴雨 19条中小河流涨水
- 领盛全新长租公寓品牌代表作“COZI可遇·虹桥”首发|焦点关注
- 公积金买房首付多少合适_公积金买房首付多少
- 每日热点:任天野 老婆(任天野的老婆多少岁)
- 消费电子板块走强,消电ETF(561310)涨超1%,深科技涨超6.7%
- 天天新消息丨教育部提示:高校招生录取期间谨防受骗
- 王者荣耀里面的迅游加速器在哪里 王者荣耀里面的ADCAPC是什么意思
- 冷暖色调分别是哪些颜色?(冷暖色)
- 天天快看:2024年农历九月二十五(公历10月27号)的宜与忌
X 关闭