基于opengl计算着色器的transformer推理实现
本项目基于llama2.c(https://github.com/cgoxopx/llama2.gl)
使用方法:
make
./run_gpu stories15M.bin
使用opengl计算着色器实现的transformer模型推理。implementation of the transformer model,using OpenGL Compute Shader
CMIT
基于opengl计算着色器的transformer推理实现
本项目基于llama2.c(https://github.com/cgoxopx/llama2.gl)
使用方法:
make
./run_gpu stories15M.bin