加载grounding-dino大模型进行推理时，一张图需要30s也太慢了吧
jamesbondzhou opened this issue · 2 comments
您好，我使用grounding-dino训练了我自己的烟雾数据（用的是configs/grounding_dino/grounding_dino_swin-t_finetune_16xb2_1x_coco.py），进行推理的时候单张图耗时32s，是不是太慢了啊
推理的时候出现nltk的报错，可是这些包我都已经拉到本地的nltk下了，他还是自己去网上找，请问是不是这里大量耗时了？
[nltk_data] Error loading punkt: <urlopen error [Errno -2] Name or
[nltk_data] service not known>
[nltk_data] Error loading averaged_perceptron_tagger: <urlopen error
[nltk_data] [Errno -2] Name or service not known>
noun_phrases: ['smoke']
[nltk_data] Error loading punkt: <urlopen error [Errno -2] Name or
[nltk_data] service not known>
[nltk_data] Error loading averaged_perceptron_tagger: <urlopen error
[nltk_data] [Errno -2] Name or service not known>
noun_phrases: ['smoke']
Inference ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
Total inference time cost 3261.86s,Average inference time cost 32.62s
您好，我使用grounding-dino训练了我自己的烟雾数据（用的是configs/grounding_dino/grounding_dino_swin-t_finetune_16xb2_1x_coco.py），进行推理的时候单张图耗时32s，是不是太慢了啊 推理的时候出现nltk的报错，可是这些包我都已经拉到本地的nltk下了，他还是自己去网上找，请问是不是这里大量耗时了？ [nltk_data] Error loading punkt: <urlopen error [Errno -2] Name or [nltk_data] service not known> [nltk_data] Error loading averaged_perceptron_tagger: <urlopen error [nltk_data] [Errno -2] Name or service not known> noun_phrases: ['smoke'] [nltk_data] Error loading punkt: <urlopen error [Errno -2] Name or [nltk_data] service not known> [nltk_data] Error loading averaged_perceptron_tagger: <urlopen error [nltk_data] [Errno -2] Name or service not known> noun_phrases: ['smoke'] Inference ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ Total inference time cost 3261.86s,Average inference time cost 32.62s
请问最后有解决吗？我这边用它推理也很慢。
您好，我使用grounding-dino训练了我自己的烟雾数据（用的是configs/grounding_dino/grounding_dino_swin-t_finetune_16xb2_1x_coco.py），进行推理的时候单张图耗时32s，是不是太慢了啊 推理的时候出现nltk的报错，可是这些包我都已经拉到本地的nltk下了，他还是自己去网上找，请问是不是这里大量耗时了？ [nltk_data] Error loading punkt: <urlopen error [Errno -2] Name or [nltk_data] service not known> [nltk_data] Error loading averaged_perceptron_tagger: <urlopen error [nltk_data] [Errno -2] Name or service not known> noun_phrases: ['smoke'] [nltk_data] Error loading punkt: <urlopen error [Errno -2] Name or [nltk_data] service not known> [nltk_data] Error loading averaged_perceptron_tagger: <urlopen error [nltk_data] [Errno -2] Name or service not known> noun_phrases: ['smoke'] Inference ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ Total inference time cost 3261.86s,Average inference time cost 32.62s
请问最后有解决吗？我这边用它推理也很慢。
已解决,推理慢的原因是联网下载那个nltk包。注释掉mmdet/models/detector/glip.py 里面 try: import nltk ...... exception ....那一块，替换为import nltk，即可。