Задание 12 ЕГЭ по базовой математике

0,8

Так как $AB$ - диаметр, то $AB = 2R = 10$, а треугольник $ABC$ - прямоугольный (вписанный угол $ABC$ опирается на половину окружности или на дугу $180^\circ$, а сам равен половине дуги, на которую опирается, или $90^\circ$).
Тогда по теореме Пифагора

$BC = \sqrt{AB^2 - AC^2} = \sqrt{100 - 36} = 8$

и по определению косинуса

$\cos \angle ABC = \frac{BC}{AB} = \frac{8}{10} = 0,8.$