|
#!/bin/bash
|
|
#SBATCH --job-name=vllm_test
|
|
#SBATCH --output=vllm_test%j.out
|
|
#SBATCH --error=vllm_test%j.err
|
|
#SBATCH --time=01:00:00
|
|
#SBATCH --partition=gpu
|
|
#SBATCH --ntasks=1
|
|
#SBATCH --cpus-per-task=4
|
|
#SBATCH --gpus=h100:1
|
|
#SBATCH --mem=80G
|
|
|
|
# Run the script
|
|
uv sync
|
|
uv run main.py
|