006期
2017 年 1 月 20 日
  北美智权官网 历期电子报 / 电子报订阅管理  
 
专业!Amazon Go免排队结账实体商店的专利技术全解析
苏之勤/北美智权专利工程研究组

「免排队、免结账、拿了就走」- 是《Amazon Go》有别于其他既有的无人商店的特点,也是其最大卖点。不过,天下没有白吃的午餐,其实从你满载而归,走出店门的一瞬间,Amazon就准备从你的账户扣款了,这种技术到底是怎么办到的?

家喻户晓的美国电子零售业霸主 ─ 电商巨头Amazon继于2015年年底时抛出无人机送货的新颖服务后,2016年12月初又发布了一项新计划 - 免排队结账商店Amazon Go[1]。没错,你没看错,是实体商店,这次在线龙头要把触角拓展到线下的实体店面了。

http://www.naipo.com/Portals/1/web_tw/images/pic0175-02-a02.jpg
图片来源:〈Amazon Go〉video 影像撷取(www.amazon.comwww.youtube.com

网络起家发迹后再开实体店面的已有前例,Amazon并非首例,无人商店在零售业更是早就存在且一直在发展的概念,那Amazon Go到底哪里值得期待呢?其最主要的宣传重点就是免排队结账,「No lines, no checkout – just grab and go」,这特点与既有的无人商店概念不太一样。

目前的无人商店有几种营运模式,例如全部都是贩卖机的形式,或是采用自助结账的超市,而Amazon Go的不同之处在于其强调消费者不用排队等候结账、不用扫描商品条形码,在进入商店后,拿完想要的商品就可以直接走出店门,省去了排队结账这件事。而这看似不用付钱,但其实是在你走出店门时就准备从你的账户扣款的技术到底是怎么办到的?

2013年申请的专利泄端倪

首先要先强调Amazon Go中的商品上并没有像是RFID的特殊辨识组件,拿取商品时也不用预先进行如扫描等其他动作一切就跟到巷口的超商买东西一样,只是你不用到柜台结账,拿了就走!Amazon Go预计在2017年初于美国西雅图开设第一间门市,其宣传网站目前仅透露运作概念,并未有太多细节的说明,但幸好Amazon这么大的企业必定不会忘记智慧财产的保护,所以我们可以从它于2013年申请的专利来一探究竟。

图1. 《U.S. 13/928,345 Fig. 2》
http://www.naipo.com/Portals/1/web_tw/images/pic0175-02-a04.jpg
数据源: USPTO

Amazon申请的美国专利13/928,345的发明名称是DETECTING ITEM INTERACTION AND MOVEMENT,其在来年对此案提出了部分延续案(continuation-in-part),案号是14/495,818,发明名称改为TRANSITIONING ITEMS FROM A MATERIALS HANDLING FACILITY,稍为把claim放大了一些,以下内容皆以345专利为主。

在Amazon的专利中,Amazon Go商店的替代用词是MATERIALS HANDLING FACILITY (以下简称MHF),消费者走进MHF时,会经过闸口信道,MHF会透过多种方式来辨识与确认消费者的身分,最主要的方法是人脸辨识,而使用者亦可使用例如RFID卡或是手机APP等来进入MHF。

如345专利第4图所示,在使用者身分辨识完毕后,MHF就会开始对用户在商店内的位置进行定位,方法包括:影像捕捉、透过麦克风收音的到达时间差(Time Difference of Arrival, TDOA)技术、三角定位、GPS等,换句话说,打从使用者进入商店的那一刻,MHF就开始监控用户的位置,直到用户离开商店为止。

图2. 《U.S. 13/928,345 Fig. 4》
http://www.naipo.com/Portals/1/web_tw/images/pic0175-02-a06.jpg
数据源: USPTO

接下来的流程来就是整个Amazon Go的核心了,也就是使用者拿取与放置商品的侦测以及所取放之商品的辨识。参照图2所示,首先子流程500是关于侦测物品的拿取与放置,也就是侦测物品之「移动」,若子流程500确认物品是被从存货位置拿取,则会进到辨识所拿取之物品的子流程600,若侦测结果是被放置至存货位置,则是进到辨识所放置之物品的子流程700,看到这里我们可以得到一个结论,在使用者拿取或是放回商品的当下,MHF系统并不知道用户到底拿放了什么商品,而是必须经由子流程中的一连串比对动作来确认身品的身分。

图3. 在Amazon Go,随着消费者从架上拿起或是放下商品,其物品标识符清单会持续更新。
http://www.naipo.com/Portals/1/web_tw/images/pic0175-02-a08.jpg
图片来源:〈Amazon Go〉video 影像撷取(www.amazon.comwww.youtube.com

由于整个Amazon Go非常倚赖影像辨识,所以MHF中必定会充满摄影镜头,从图1《U.S. 13/928,345 Fig. 2》可以推断,至少在天花板以及商品货架上会装置摄影镜头。当使用者的手准备要从货架上拿放商品时,MHF就会侦测到有对象(object)靠近,侦测的方式除了摄影机以外,还有光幕(light curtain)等其他侦测装置来提供输入值给系统,经由比对对象(也就是手)靠近以及离开的影像,透过画素分析来判断使用者是否有拿取或是放置物品。除了比较对象的影像外,子流程500也会比对货架上位置的前后影像。由于商品平时是静置状态,所以移动前的影像容易透过形状来记录商品件数,即使消费者一把抓起好几包洋芋片包装的上端,还是能够透过影像的前后比较来得出被拿取或放置的数量。

图4. 《U.S. 13/928,345 Fig. 6》
http://www.naipo.com/Portals/1/web_tw/images/pic0175-02-a10.jpg
U.S. 13/928,345 Fig. 6数据源: USPTO

图4《U.S. 13/928,345 Fig. 6》是辨识所拿取之物品的流程,这是Amazon Go是否能顺利运作的关键,因为如前面提到的,MHF中的商品并没有像是RFID之类特殊辨识组件,如果有RFID的话,那辨识商品的部分就不是太困难问题,但Amazon Go的商品就如同一般超商的商品,在没有柜台扫条形码的状况下,正确辨识出消费者拿取的商品就非常重要。

对于拿取之物品的辨识方式是藉由比对子流程500中撷取的影像是否与存货位置纪录的信息相符,另外压力传感器或重量传感器的改变也会作为系统判断的参考值,MHF系统会根据上述数据产生可信度分数(confidence score),然后确定该可信度分数是否有超过预定的拿取临界值(pick threshold),如果超过拿取临界值则通知使用者其所拿取的物品,通知的方式可能会是呈现在商品附近的显示器或是用户持有的可携装置上。如果可信度分数低于拿取临界值,这时系统会发通知请用户确认商品及数量,如果使用者无法回复确认,则使用者在存货转移前必须被审核(audit),MHF会指派相关单位前去确认,而相关单位可能是真人、自动驱动单位或是机器人。

子流程700是接续在步骤407之后,其先从与该用户相关的物品标识符清单(item identifier list)中确认已辨识的商品,接续的比对流程与辨识所拿取之物品的流程类似,也是会建立可信度分数来与默认的临界值比较,差异在于放置之物品的辨识流程700还多了辨识物品是否有被放置在正确位置的步骤,如果没有被放回正确的货架,MHF也是会派相关单位前去确认与归位。

http://www.naipo.com/Portals/1/web_tw/images/pic0175-02-a12.jpg
图片来源:〈Amazon Go〉video 影像撷取(www.amazon.comwww.youtube.com

由于消费者在MHF中的位置与动作都是持续地被记录着,且消费者的物品标识符清单也是不断在更新,所以当消费者拿完商品要离开Amazon Go的时候,通过通道时存货转换(inventory transition)的动作就瞬间完成了,系统会在依据物品标识符清单以消费者设定的付款方式收取费用,无须再排队结账,这也是Amazon Go主打的最大亮点。专利说明书中也提到另一种实施例是存货转换可延迟约15分钟,也就是说MHF不会在消费者经过转换区时马上进行存货转换,假设消费者在延迟时间中重返商店换货,那物品标识符清单会继续更新。

延伸思考以及专利申请难题

(1) 例外状况的处理
虽然Amazon已经在专利说明书中设想了许多可能会发生的问题及解决方式,但使用者行为有时是难以预料的,例如:如果消费者是一对情侣,A拿了一瓶可乐,但叫B拿回去放,这时候系统有办法准确的从A的物品标识符清单移除可乐吗?

再设想一个比较极端的状况,如果有心人士想要测试Amazon Go的可信度分数的算法,进商店时在背包放了一瓶喝完的可乐空瓶但是装满了自来水,从架上拿了一瓶新的可乐后把装满水的可乐放回去,系统是否有办法辨识出这瓶被掉包的可乐呢?

(2) 免排队结账的真正目的
早期的无人商店最主要的目的是节省人事开销,但我相信Amazon Go的建置及营运成本绝对高于多顾几个店员来加快结账速度,所以可合理推测Amazon的免排队结账绝对是醉翁之意不在酒。

Amazon是电商起家的,其对于消费者在网络商店的消费者行为模式分析是个中翘楚,但在线消费所能记录的东西远多于实体店消费,例如网络商店甚至能记录到消费者的鼠标在页面上某处所停留的时间,而目前实体店大多只能从销售量来推估消费者行为与习惯,所以Amazon Go实际的目的应是想要在线下商店进行在线商店才能做到的大数据(Big Data)分析。由于每个消费者从进门到离开的位置、时间等都完整的被系统纪录下来,换句话说,每个消费者从进入Amazon Go就化身为一个鼠标指针,行为模式就能被Amazon掌控。

就某个角度来说,Amazon是以一种聪明的方式达成物联网(Internet of Things)的概念。目前的物联网架构中,传感器大多得设置在终端产品或是组件上,但透过影像辨识等多种技术之结合,免去了为每件商品都建置感应组件这项相对繁杂的手续。

(3) Alice rejection
至本文截稿前,13/928,345与14/495,818都是尚未核准的专利,345专利的状态是收到Final Office Action而818专利则是准备审查中。345专利的claim主体是整个系统,其中的指令包括前文提到的辨识进入的使用者、辨识拿取或放置之商品、更新物品标识符列表等流程

图4. 《Claim Rejections -35 USC § 101》
http://www.naipo.com/Portals/1/web_tw/images/pic0175-02-a14.jpg
数据源: USPTO

这里先不谈345专利遇到的先前技术,在审查员发的二份Office Action中,都收到专利适格性(35 U.S.C 101)之核驳,也就是最近令许多申请人头痛的Alice rejection,审查员以现行的二阶段分析方式认定345专利的claim是指向抽象概念且并未显著超过该抽象概念。这类的核驳并非无解,但若申请人没有适应地更改claim撰写方式或是提出具有说服力的进步说明,可能难以通过USPTO的专利审查。

注释

  1. https://www.amazon.com/b?node=16008589011

 

作者: 苏之勤
现任: 北美智权专利研发部专利工程研究组研究员
学历: 政治大学科技管理研究所硕士
交通大学材料与工程学系学士
经历: 法律事务所专利工程师

 


 





感谢您阅读「北美智权报」,欢迎分享智权报连结。如果您对北美智权电子报内容有任何建议或欲获得授权,请洽:Editorial@naipo.com
本电子报所登载之文章皆受著作权保护,未经本公司授权, 请勿转载!
© 北美智权股份有限公司 & 北美联合专利商标事务所 版权所有 234 台湾地区新北市永和区福和路389号五楼 TEL:+886-2-8923-7350