ML Bench

Machine Learning Benchmark Tool (ML Bench) (AI Benchmark Tool)

Supported models :

- MobileNet v1

- MobileNet v2

- Inception v3

- Resnet v2 50

- SSD Mobilenet v1 (Object Detection)

Supported runtime :

- Tensorflow Lite

- Tensorflow Mobile

- Android NN

- SNPE (for Qualcomm)

SideLoad Support:

How to side load your model :

1. Convert your model to tflite (using toco) or dlc (using snpe conversion tool).

2. On your local machine, create [Model Name] directory

3. Copy your model file to the directory created in step 2

4. Create a file called meta-data.json in the [Model Name] directory

example of meta-data.json :

{

"xres" : 299,

"yres" : 299,

"depth" : 3,

"input_type" : "float",

"output_type" : "float",

"input_name" : "input:0",

"output_name" : "InceptionV3/Predictions/Reshape_1:0",

"image_mean" : 0,

"image_std" : 0,

"accelerator":"dsp",

}

5. push [Model Name] directory to the target device using below command

adb push ./[Model Name] /sdcard/Android/data/com.etinum.mlbench/files/models/

Công cụ điểm chuẩn máy học (ML Bench) (Công cụ điểm chuẩn AI)

Các mô hình được hỗ trợ:

 - MobileNet v1

 - MobileNet v2

 - Khởi động v3

 - Resnet v2 50

 - SSD Mobilenet v1 (Phát hiện đối tượng)

Thời gian chạy được hỗ trợ:

 - Kéo căng Lite

 - Di động kéo căng

 - NN NN

 - SNPE (cho Qualcomm)

Hỗ trợ SideLoad:

      Làm thế nào để tải bên mô hình của bạn:

1. Chuyển đổi mô hình của bạn thành tflite (sử dụng toco) hoặc dlc (sử dụng công cụ chuyển đổi snpe).

2. Trên máy cục bộ của bạn, tạo thư mục [Tên mẫu]

3. Sao chép tệp mô hình của bạn vào thư mục được tạo ở bước 2

4. Tạo một tệp có tên meta-data.json trong thư mục [Tên mẫu]

ví dụ về meta-data.json:

{

"xres": 299,

"số": 299,

"độ sâu": 3,

"input_type": "thả nổi",

"output_type": "thả nổi",

"input_name": "đầu vào: 0",

"output_name": "InceptionV3 / Dự đoán / Định hình lại_1: 0",

"hình ảnh_mean": 0,

"hình ảnh_std": 0,

"máy gia tốc": "dsp",

}

5. đẩy thư mục [Tên mẫu] vào thiết bị đích bằng lệnh bên dưới

đẩy adb.