Python 使用 GPU 的安裝方式

依據顯卡的資訊

Nvidia-smi 顯示卡 資訊

我的經驗是先更新顯卡的驅動到可支援的最新版本

再到nvida網站下載適合你版本的cuda

CUDA Toolkit Archive | NVIDIA Developer

我是下載12.4版本來做測試

查看是否安裝完成 nvcc -V

在python環境上驗證:

import torch

print(torch.cuda.is_available())

Deploy a model with nuclio successful, but status unhealthy

使用有Nuclio的CVAT docker image
Nuclio是一個無伺服器(Serverless)平台，Serverless架構的Nuclio較一般的server簡單，適合用來快速製作無需資料庫的API。

前往安裝CVAT的位置

docker compose down # 關閉該CVAT的docker image

啟動具Nuclio的CVAT container。

docker compose -f docker-compose.yml -f components/serverless/docker-compose.serverless.yml up -d # 啟動具serverless 架構的CVAT container

當在CVAT部屬自動標註模型時, 重開了Docker後會造成部屬的自動標註模型"unhealthy"的情況

先在Docker上的模型按 restart

再到Nuclio上啟動