📦 Paddle Model Analysis
这是基于飞桨开发的工具包,以极简主义为特色,用于对分类任务模型进行快速分析
本项目追求最短的代码、更小的冗余,用最小的学习成本让用户使用,以用户体验为根本,在这里你可以用最少三行代码来实现想要的功能。
目前所支持的功能有:
- ImageNet 上快速验证模型
- 测试图片 Top5 类别
- 测试模型 Params、Throughput、FLOPs
- CAM (Class Activation Mapping)
- TTA (Test Time Augmention)
- coming soon ...
更新
Update(2021-11-26):增加 FLOPs 计算
Update(2021-11-26):更新 Params、Troughput 的计算
Update (2021-09-29):优化 ImageNet1k 验证,规范代码为PEP8
安装
pip install ppma
快速开始
- ImageNet 上快速验证模型
当训练了新的模型后,或者复现了某个模型,我们需要在 ImageNet 数据集上验证性能,先准备数据集结构如下
data/ILSVRC2012
├─ ILSVRC2012_val_00000001.JPEG
├─ ILSVRC2012_val_00000002.JPEG
├─ ILSVRC2012_val_00000003.JPEG
├─ ...
├─ ILSVRC2012_val_00050000.JPEG
└─ val.txt # target
准备好数据集后,运行以下代码
import ppma
import paddle
model = paddle.vision.models.resnet50(pretrained=True) # 可以替换自己的模型
data_path = "data/ILSVRC2012" # 数据路径
ppma.imagenet.val(model, data_path, batch_size=128 ,image_size=224, crop_pct=0.875, normalize=0.485)
- 测试图片 Top5 类别
import ppma
import paddle
img_path = 'test.jpg' # 图片路径
model = paddle.vision.models.resnet50(pretrained=True) # 可以替换自己的模型
ppma.imagenet.test_img(model, img_path, image_size=224, crop_pct=0.875, normalize=0.485)
- 测试模型 Params、Throughput
import ppma
import paddle
res50 = paddle.vision.models.resnet50() # 可以替换自己的模型
# FLOPs、Params -- depend model and resolution
ppma.modelstat.flops(model=res50, img_size=224, per_op=True)
# Thoughput -- depend model and resolution
ppma.modelstat.throughput(model=res50, img_size=224)
- CAM (Class Activation Mapping)
import paddle
import matplotlib.pyplot as plt
from ppma import cam
img_path = 'img1.jpg' # 图片路径
model = paddle.vision.models.resnet18(pretrained=True) # 模型定义
target_layer = model.layer4[-1] # 提取模型某层的激活图
cam_extractor = cam.GradCAMPlusPlus(model, target_layer) # 支持 GradCAM、XGradCAM、GradCAM++
# 提取激活图
activation_map = cam_extractor(img_path, label=None)
plt.imshow(activation_map)
plt.axis('off')
plt.show()
# 与原图融合
cam_image = cam.overlay(img_path, activation_map)
plt.imshow(cam_image)
plt.axis('off')
plt.show()
- TTA (Test Time Augmention)
import paddle
import ppma
import ppma.tta as tta
model = paddle.vision.resnet18(pretrained=True)
model_tta = tta.ClassTTA(model, tta.aliases.hflip_transform()) # 生成 TTA 模型
ppma.imagenet.val(model_tta, "data/ILSVRC2012")
设计的哲学
目前有很多优秀的库拥有着简洁易用的体验,比如fastai、keras、scikit-learn,以及飞桨自家的PaddleHapi,这些都是对复杂的代码进行封装,大大降低了用户上手难度以及用户学习成本,同时高度的封装带来的是灵活性、自定义性的下降,如何去权衡这两个矛盾是一个需要思考的问题
- 命名的艺术
对函数的命名是一个需要推敲磨打的技术活,一方面函数命名尽量简单直观,做到用户自然记忆不需要查函数名,这就要求尽量命名短,单词意思尽量贴合使用场景。一方面又要避免与用户变量命名习惯冲突,比如"img"这个命名很常见,大多数用来表示一张图片,故命名函数时尽可能避开它,这能降低因为命名问题造成的error
# 针对 ImageNet 数据集进行验证的函数
# 当前方案
ppma.imagenet.val(model, img_path) # 简洁优雅
# 曾经方案
ppma.ILSVRC2012.val(model, img_path) # ILSVRC2012 太长不方便记忆
ppma.imagenet2012.validate(model, img_path) # 变量命名有些冗余,可以缩短而不影响理解
...
- 结构的设计
高度封装以及灵活性是一对矛盾。比如具有高度封装的Keras,其灵活性和自定义性没有Pytorch那么好。在本项目(模型分析)上,因为我们只是针对具体任务进行分析,其自定义性需求并不是那么高,我们可以适当提高封装性,同时支持更多的默认参数,用户可以通过修改默认参数来完成特定需求,比如CAM增加自定义标签(默认是网络输出的标签)查看相应激活图。
# 本项目设计参考 Box 思想,用户只需要准备需要的放入函数里一键运行即可
#
# model \
# img - Box - Result
# ... /