移動(dòng)攝影,沒(méi)性能圈那普適性的評(píng)價(jià)方法(性能與功耗),也沒(méi)音頻圈那么玄學(xué),但卻依然很“黑箱”,用戶對(duì)操作過(guò)程一無(wú)所知,因此也攢下了很多誤解和冷知識(shí)。
這次就為大家解答一些移動(dòng)攝影的日常疑問(wèn)和冷熱知識(shí),結(jié)合之前的《簡(jiǎn)單科普:計(jì)算攝影“算”的是什么?》科普食用,效果更佳 。知道之后,將獲得“你已超越全國(guó)90%用戶”認(rèn)證。
鏡頭
手機(jī)鏡頭幾乎都是塑料/樹(shù)脂材質(zhì)。
8P鏡頭的“P”,不是“片”的拼音縮寫(xiě),而是Plastic的英文縮寫(xiě),中文叫塑料或普拉斯提克。
1G6P鏡頭的“G”,是Glass玻璃的縮寫(xiě)。Redmi K40游戲增強(qiáng)版、vivo X70 Pro+、vivo X80 Pro、小米Civi 2等部分機(jī)器在用。
手機(jī)上用玻璃鏡片,核心用處其實(shí)是降低厚度和降低裝配難度,其次才是玻璃能耐高溫可以上更多層鍍膜。1G6P的效果與8P接近,但透光率更高、厚度更低,唯一缺點(diǎn)是貴。
聯(lián)名與自研芯片
為什么松下CM1、華為、夏普、小米的手機(jī)都看不到徠卡的“可樂(lè)標(biāo)”?這是徠卡的鍋,其要求有可樂(lè)標(biāo)就不能同時(shí)出現(xiàn)手機(jī)廠logo,所以大家只會(huì)用徠卡的文字標(biāo)。
徠卡是多棲登陸的“渣男”,合作廠商不計(jì)其數(shù),近代就有松下、華為、夏普、小米、Insta360、堅(jiān)果投影、海信投影等等等等
OPPO其實(shí)也嘗試過(guò)和蔡司合作,但沒(méi)談成,而徠卡則是被小米搶先了,最后只能和一加“共用”哈蘇了(這條算八卦)
2005年,諾基亞N系列開(kāi)山之作N90就首發(fā)了卡爾蔡司鏡頭,比2021年帶蔡司小藍(lán)標(biāo)的vivo X60系列早17年。
華為和徠卡分手后,出了自己的影像品牌XMAGE,有人說(shuō)是手機(jī)廠推翻相機(jī)聯(lián)名的大山。但其實(shí)諾基亞在2012年初就有自己的影像品牌PureView(純景),首發(fā)機(jī)型就是大名鼎鼎的怪物——諾基亞808 PureView。
為了計(jì)算攝影,Google在2017年的Pixel 2系列上,搭載了和英特爾合作設(shè)計(jì)的Pixel Visual Core,同代的還有華為海思的NPU、增加“仿生后綴”的蘋(píng)果A系列芯片,多年后的vivo V1+、OPPO馬里亞納X,它們的初始核心用途全是搞計(jì)算攝影。
自研ISP,以前屬于一個(gè)聽(tīng)起來(lái)那么高檔的范疇——外掛ISP。不要怪各大廠都搞自研ISP,因?yàn)楦咄ā⒙?lián)發(fā)科的集成ISP,性能真的不夠用。
2012年的HTC One X就有ImageChip圖像芯片(能每秒5張連拍、一次99張連拍、錄像時(shí)也能拍照),比vivo、OPPO、小米的自研ISP/NPU早了8年有余。
傳感器
主流傳感器的尺寸比例對(duì)比↑
數(shù)碼相機(jī),是膠卷相機(jī)大佬柯達(dá)在1975年發(fā)明的,最后把自己干趴了。
2019年主流的1/2英寸傳感器IMX586,只比2018年主流的1/2.3英寸傳感器IMX363大5%(因?yàn)樵?/2.3英寸上下,“每英寸”分別對(duì)應(yīng)16mm和18mm)。
同樣是1/2.3英寸,不同CMOS間有14%的面積差異(ImX377對(duì)IMX230);同樣是1英寸,不同型號(hào)間也有12%的差別。
弱光噪點(diǎn)主要由藍(lán)色像素貢獻(xiàn)。裸片硅在可見(jiàn)光波段的光電轉(zhuǎn)換率是峰值的20%-60%,對(duì)1000nm紅外光達(dá)到峰值,另一端的藍(lán)光只有峰值的15%。
傳感器不能無(wú)限做小,因?yàn)榧t色光波長(zhǎng)范圍在620–750nm(即0.62到0.75μm)之間,亞波長(zhǎng)尺寸的子像素,效果會(huì)下降很明顯。
現(xiàn)在最小的單位像素尺寸已小于理論極限。三星2億像素的HP3傳感器,單位像素已經(jīng)壓縮到了0.56μm,豪威也有同尺寸的傳感器,但現(xiàn)在都沒(méi)有量產(chǎn)機(jī)搭載。好消息是,這些傳感器默認(rèn)都是4合1、9合1輸出,日常等效1.12μm和1.68μm,離物理瓶頸還很遠(yuǎn),但高像素模式就基本廢了。
同是0.64μm的2億像素HP1、1億像素HM6、5000萬(wàn)像素JN1,都是各自像素級(jí)別的恥辱,0.56μm的效果真的不堪設(shè)想。
索尼傳感器最小的單位像素尺寸是0.8μm(IMX586/582/598、IMX686/682、IMX709/787等),為何索尼沒(méi)有像三星和豪威那樣跟進(jìn)小像素?因?yàn)樗髂峁S的制程太落后,無(wú)法低成本地把CMOS的單位像素做?。ㄈ呛退髂岷诵膫鞲衅鞫际亲约荷a(chǎn)的,豪威和索尼部分產(chǎn)線是找代工)。以公開(kāi)信息中的豪威Purecel Plus傳感器為例,單位像素1μm用的是45nm工藝,0.8μm用的是28nm,然而索尼自己的廠,集中在40nm以上……
傳感器是色盲,只能感知光線強(qiáng)弱,不能分辨顏色。實(shí)際操作中,是用紅綠藍(lán)3顏色的濾光片(對(duì)應(yīng)常見(jiàn)的RGGB拜耳陣列,但也有RYYB等其他方案),讓單個(gè)像素記錄3原色中的一個(gè),犧牲了2/3的像素?cái)?shù)量去換取記錄顏色的能力。結(jié)果100萬(wàn)像素的屏幕會(huì)有300萬(wàn)個(gè)子像素,而100萬(wàn)像素的CMOS只有100萬(wàn)個(gè)“子像素”。我們平時(shí)看到的照片,2/3的信息都是去馬賽克(Demosaicing)算法插值、猜色重建的結(jié)果。
現(xiàn)代傳感器濾光片最常用的Bayer拜耳陣列,就是柯達(dá)科學(xué)家Bryce Bayer發(fā)明的。
但濾光片排列在理念上沒(méi)有所謂的最優(yōu)解。最普遍的RGGB排列(也有比較常用的GBRG/GRBG/RGGB,優(yōu)勢(shì)是幾十年的積累,色彩準(zhǔn)、易調(diào),但光線損失大)、有華為在用的RYYB(Y是黃色的意思,進(jìn)光量大,但易偏紅和高光溢出)、OPPO愛(ài)用的RGBW(W是白色,即無(wú)濾光片,進(jìn)光量大,但色彩淡)、RWB(索性綠色都由無(wú)濾光片的白色代替,色彩也是問(wèn)題)、MONO(黑白,最大進(jìn)光量,但黑白)。
ToF鏡頭(Time of Flight,飛行時(shí)間)沒(méi)那么高逼格。當(dāng)年的激光對(duì)焦就算是ToF的一種,2014年的LG G3就有了,后來(lái)華為P9、HTC M10等大量機(jī)型使用(當(dāng)年意法的ToF傳感器有效距離只有2米),后因雙核對(duì)焦普及而逐步被沒(méi)落。更low的ToF實(shí)現(xiàn),是距離感應(yīng)器(控制打電話和口袋里自動(dòng)滅屏那個(gè)),2016年的iPhone 7就在用了。
算法/計(jì)算攝影
手機(jī)上的計(jì)算攝影并沒(méi)有那么遙不可及,本質(zhì)還是把相機(jī)老法師手動(dòng)/半自動(dòng)的拍照方法和后期修圖,進(jìn)行自動(dòng)化和硬件化。
以前手機(jī)拍照會(huì)有黑屏“咔嚓”一下的原因(現(xiàn)在基本不存在了):CMOS有預(yù)覽和拍照模式,為了省電和降低ISP壓力,前者可能是1080P,甚至可能是720P的。按下快門那下短暫黑屏,是CMOS轉(zhuǎn)去拍照模式,導(dǎo)致預(yù)覽視頻流短暫中斷的結(jié)果。
幾年前,Google相機(jī)能移植到各種手機(jī)上(成為小米6的“最后一塊拼圖”),是因?yàn)楫?dāng)時(shí)后期處理管線對(duì)硬件依賴不強(qiáng),基礎(chǔ)版本只要支持Neon就能跑,但非官方設(shè)備沒(méi)有對(duì)應(yīng)的校正(降噪模型等),可能會(huì)出現(xiàn)涂抹力度過(guò)輕或過(guò)重、偏色、還無(wú)法達(dá)到最佳的效果。
現(xiàn)在大部分自動(dòng)夜景的樣張,其exif信息中的快門時(shí)長(zhǎng)不再有參考性(幾秒鐘的夜景,結(jié)果快門顯示1/4秒)。其顯示的不是多幀合成的總時(shí)長(zhǎng),而是長(zhǎng)曝光幀EV0正確曝光的樣張快門速度。
HDR算法會(huì)降低細(xì)膩材質(zhì)的質(zhì)感(如毛發(fā)、線條等密集紋理),多幀合成的幀數(shù)越多,翻車幾率越大,所以Google和很多廠商在光線好時(shí),HDR是2幀合成的(蘋(píng)果Smart HDR是9張,Google HDR+是2-8幀)。
雖然現(xiàn)在流行自研拍照算法,但算法供應(yīng)商依然是大頭。著名供應(yīng)商有虹軟科技(100億市值,21年?duì)I收5.7億,2.7億研發(fā),444人研發(fā))、商湯(300億市值,2000人)、曠視科技(市值200億,總數(shù)1400人)、Core Photonics(以色列,市值2.5億,50人研發(fā))和 Morpho(日本,研發(fā)人員未知,7.6億市值)
手機(jī)拍照算法值多少錢?在虹軟19年財(cái)報(bào)曾有提及,計(jì)件模式下,平均每臺(tái)手機(jī)算法費(fèi)用0.55元……
日常使用
為什么相機(jī)一開(kāi),后臺(tái)的app就沒(méi)了?
因?yàn)橄鄼C(jī)app真的很吃內(nèi)存。手機(jī)大廠為了做多幀合成+零延時(shí)延時(shí)快門,相機(jī)打開(kāi)后就在不停拍照,按下快門后會(huì)把最近的2-15幀送去做多幀合成(蘋(píng)果Smart HDR和Deep Fusion一般都是9張)。跑進(jìn)RAW域(籠統(tǒng)理解為,從jpg文件到RAW文件)的圖片處理流程,加上各種算法模型,以及部分機(jī)型那機(jī)關(guān)槍一樣的快門響應(yīng),內(nèi)存不爆就有鬼了。
反過(guò)來(lái),要不是計(jì)算攝影巨大的內(nèi)存需求,摳到家的蘋(píng)果也不會(huì)讓iPhone從2017年的3GB漲到現(xiàn)在的6GB。這樣騙自己,心理會(huì)舒服點(diǎn)(蘋(píng)果只用9合1,沒(méi)有往上堆,一來(lái)是功耗和內(nèi)存頂不住,二來(lái)是邊際效用遞減,以及樣張?zhí)嗑透y對(duì)齊,容易糊片)
都說(shuō)安卓拍照比蘋(píng)果好,但為什么安卓機(jī)發(fā)的朋友圈比蘋(píng)果差?因?yàn)閺埿↓?。安卓版微信?duì)圖片壓縮更猛、分辨率更低。張小龍?。?!
安卓第三方app拍照或錄視頻不如原生相機(jī)好?因?yàn)榈谌絘pp(包括用微信內(nèi)置的拍照和錄像入口)無(wú)法/沒(méi)去調(diào)用原生相機(jī)的算法,甚至?xí)妙A(yù)覽畫(huà)面來(lái)輸出視頻,不糊才有鬼(因此改善第三方app的影像效果,也成了2017年Google Pixel Visual Core、2021年OPPO馬里亞納X等外掛芯片的目標(biāo)之一)。
拍視頻的視野為何比照片???因?yàn)殇浵駴](méi)調(diào)用所有像素,以常見(jiàn)的4:3 1200萬(wàn)像素傳感器為例,4K 16:9(比例這里損失一道)錄像單幀只用了1200萬(wàn)像素中的829萬(wàn)像素,8K視頻只用了4800萬(wàn)模式中的3318萬(wàn)像素,視野自然會(huì)小一圈。理論上可用合并采樣、超采來(lái)避免視角縮水,但算力和功耗要求太高。
近幾年所有旗艦手機(jī),連拍時(shí)都可能因?yàn)樘幚聿患岸紶柍霈F(xiàn)幾張沒(méi)算法處理的“廢片”,俗稱“夾生”。
iPhone情況很輕微,但安卓旗艦比較明顯,連拍或抓拍時(shí),要珍惜前幾下快門,前面都拍不清,后面大概率也是糊的。
即便是在2022年,絕大部分安卓旗艦,都會(huì)因?yàn)榘l(fā)熱問(wèn)題,根本無(wú)法堅(jiān)持30分鐘的4K 60fps錄像(效果就更別提了)……而相機(jī)的30分鐘視頻拍攝限制,不是防止過(guò)熱,而是避免進(jìn)出口時(shí)被歸類到攝像機(jī),后者的關(guān)稅更高(雖然確實(shí)有不少相機(jī)會(huì)過(guò)熱)。