K230 场景实战-智能门锁POC-3D结构光#

K230 智能门锁#

在K230平台开发的一套集成UI、人脸检测、ir检测、depth检测、人脸识别、人脸注册功能的程序。使用8线 nor flash快起，从上电到出图400ms以内，到开锁700ms以内，使用flash大小为32M,DDR大小为128M。

硬件环境#

K230-USIP-LP3-EVB-V1.0/K230-USIP-LP3-EVB-V1.1
配套的LCD模组
K230-USIP-OV9286-SENSOR-V1.1模组

概述#

智能门锁程序作为一个POC项目，提供给客户如何使用lvgl、大小核通信、多媒体pipeline及ai等功能的参考，程序主要分两部分，大核端程序主要完成视频输入输出，AI处理等相关的功能，小核端完成UI及人脸特征值管理的功能，大小核通过IPCMSG进行通信，在开发板通过norflash启动。

备注#

1.为确保识别效果，DPU使用的配置文件和参考帧文件必须与使用的sensor配套，若不匹配，请在src/reference/business_poc/doorlock_ov9286/big/bin/路径下替换配套的H1280W720_conf.bin和H1280W720_ref.bin，替换后重新编译镜像。

2.下电和reset之前，应现在小核串口端输入halt,保护文件系统不被损坏。

3.门锁POC场景中，人脸特征值等个人私密信息必须以密文方式存储到介质中，以避免私密信息被攻击者窃取从而留下安全隐患。K230智能门锁POC场景中，人脸特征值被加密存储在norflash中，uboot阶段会将密文数据从flash中搬到ddr中并完成数据解密。本项目使用AES-GCM加解密算法完成特征值加解密，加解密使用的密钥以明文形式被硬编码到app中，这样做的目的是客户可以更方便地体验门锁POC功能。但是，密钥以明文形式编码到app中本身属于不安全的行为，如果有需求，后期我们会提供一套完整的人脸特征值加解密存储方案，具体的流程如下：

3.1 客户拿到k230开发板套件后，需要把密钥烧录到OTP密钥区；

3.2 门锁POC场景下，当客户需要存储人脸特征值时，会从OTP中读取密钥，然后利用密钥实现AES-GCM加密；

3.3 uboot阶段，读取OTP密钥区中用户烧录的密钥进行解密。

源码位置#

大核端程序源码路径位于src/reference/business_poc/doorlock_ov9286/big，目录结构如下：

.
├── anchors_320.cc
├── bin
│   ├── H1280W720_conf.bin
│   └── H1280W720_ref.bin
├── build
├── CMakeLists.txt
├── main.cc
├── mobile_face.cc
├── mobile_face.h
├── mobilenetv2_depth.cc
├── mobilenetv2_depth.h
├── mobilenetv2_ir.cc
├── mobilenetv2_ir.h
├── mobile_retinaface.cc
├── mobile_retinaface.h
├── model.cc
├── model.h
├── util.cc
├── util.h
└── vi_vo.h

小核端程序源码路径位于src/little/buildroot-ext/package/door_lock，目录结构如下：

.
├── Config.in
├── src
│   ├── CMakeLists.txt
│   └── ui
│       ├── CMakeLists.txt
│       ├── data
│       │   └── img
│       │       ├── delete.png
│       │       ├── import.png
│       │       └── signup.png
│       ├── demo
│       │   └── main.c
│       ├── lvgl_port
│       │   ├── CMakeLists.txt
│       │   ├── k230
│       │   │   ├── buf_mgt.cpp
│       │   │   ├── buf_mgt.hpp
│       │   │   ├── CMakeLists.txt
│       │   │   ├── lv_port_disp.cpp
│       │   │   └── lv_port_indev.c
│       │   ├── lv_conf_demo.h
│       │   ├── lv_conf.h
│       │   └── lv_port.h
│       └── src
│           ├── db_proc.c
│           ├── db_proc.h
│           ├── main.c
│           ├── msg_proc.cpp
│           ├── msg_proc.h
│           ├── scr_main.c
│           ├── scr_signup.c
│           └── ui_common.h
└── src.mk

编译程序#

K230-USIP-LP3-EVB-V1.0/K230-USIP-LP3-EVB-V1.1开发板编译程序：在k230_sdk目录下执行make CONF=k230_evb_doorlock_ov9286_defconfig，k230_sdk/src/reference/business_poc/doorlock_ov9286/big/out目录下生成大核程序door_lock.elf，k230_sdk/output/k230_evb_doorlock_ov9286_defconfig/little/buildroot-ext/target下生成小核程序app目录。

运行程序#

智能门锁在nor flash镜像中，大小核程序自启，K230-USIP-LP3-EVB-V1.0/K230-USIP-LP3-EVB-V1.1开发板编译完成之后会在output/k230_evb_doorlock_ov9286_defconfig/images/目录下生成sysimage-spinor32m.img镜像，烧写nor flash镜像，开发板拨码开关设置成nor flash启动

功能演示#

大小核程序启动后界面显示如下：
sd人脸图片导入功能，必须在/sharefs/pic下放入图片，为保证识别效果，导入图片的格式要求为jpg，分辨率为720*1280，比例为9:16，用户把需要导入的人脸图片放到/sharefs/pic下，按下图片导入键，程序会自动完成提取特征值功能，并以图片的文件名为识别成功后的lable,操作效果如下：
人脸实时注册功能，点击人脸注册按钮，通过UI展示的键盘输入lable，为保证识别效果，注册时人脸应位于图像的中央，操作效果如下：识别效果：
人脸底库删除功能，删除所有通过sd卡和人脸实时注册的人脸，操作效果如下：

OTA#

参考sdk ota升级功能打包需要更新的flash分区包，因分区文件size在rtt kernel中保存，所以升级norflash其他分区时，必须同时升级rtt_system.bin
通过升级按钮输入服务器IP地址
通过串口依次输入命令killall -9 ui,挂载sd卡分区到/tmp目录，例如mount /dev/mmcblk0p2 /tmp
确保本地网络服务器网络是联通的，执行/usr/bin/ota命令，升级成功后设备重启启动