第二步使用的大模型

[sunny2022mx]

请问在第二步“Extract Triples and Entity Descriptions” 中，具体是使用哪种大模型生成的，两种方法都是DeepSeek-V3吗？

[sunny2022mx]

在尝试使用GraphExtraction方法时，有一个报错：Retry for Error: HTTPConnectionPool(host='0.0.0.0', port=8002): Read timed out. (read timeout=240)。
将时间调整为600后依然报错，想咨询一下报错原因以及用什么模型构建。

我用的是vllm，以下为我的chunk.py文件设置：

if name == "main":
MODEL = "/media/models/Qwen/Qwen3/"
# num=4
instanceManager=InstanceManager(
url="http://0.0.0.0",
ports=[8002],
gpus=[1],
generate_model=MODEL,
startup_delay=30
)
use_llm=instanceManager.generate_text_asy
chunk_file="/media/LeanRAG-main/datasets/mix/mix_chunk.json"
chunks=get_chunk(chunk_file)
output_dir="/mediaLeanRAG-main/GE_data/mix_chunk"
loop = asyncio.get_event_loop()
loop.run_until_complete(triple_extraction(chunks, use_llm,output_dir))

[RaZzzyz]

两种方法使用的都是dsv3模型，如果设置timeout为600仍报错的话，可以调试看一下是否为上下文长度问题，然后逐一排查 处理chunk的并发量， 本地vllm的并发量，以及本地vllm能否正常访问。也可以先切换第三方api进行测试

[sunny2022mx]

两种方法使用的都是dsv3模型，如果设置timeout为600仍报错的话，可以调试看一下是否为上下文长度问题，然后逐一排查 处理chunk的并发量， 本地vllm的并发量，以及本地vllm能否正常访问。也可以先切换第三方api进行测试

好的，感谢您的回复。

[sunny2022mx]

两种方法使用的都是dsv3模型，如果设置timeout为600仍报错的话，可以调试看一下是否为上下文长度问题，然后逐一排查 处理chunk的并发量， 本地vllm的并发量，以及本地vllm能否正常访问。也可以先切换第三方api进行测试

想继续请教一下，您是用四张卡，在本机什么样的硬件环境下运行的呢？
我将timeout设置为1000，在单张5880上跑，使用GE方法，运行deal_triple.py，只是抽取entity就用了10天时间，请问这个时间正常吗。

[RaZzzyz]

很抱歉现在才看到，我们当时使用的是第三方的api接口，我们在测试token使用量时，是使用vLLM框架在单机8卡A100上部署的qwen3-14b模型,4个数据集全部抽取用时在10天以内，你可以参考一下。