Шар массой 3 кг, движущийся со скоростью v, налетает на покоящийся шар и после абсолютно упругого столкновения отскакивает от него под углом 90° к первоначальному направлению своего движения со скоростью v/2. Определите массу второго шара. Поверхности шаров гладкие.

Изобразим рисунок с учетом закона сохранения импульса для системы из двух шаров.

Вектор  импульса  до столкновения должен равняться сумме векторов после столкновения.  Таким образом, имеем прямоугольный треугольник, у которого катетами являются начальный и конечный векторы импульсов первого шара, а гипотенуза - вектор импульса второго шара после столкновения с первым. 
 Таким образом, найти модуль импульса второго шара не составит труда, если воспользоваться теоремой Пифагора. 

$m_2V_2=\sqrt{(m_1V_1)^2+(m_1*\frac{V_1}{2})^2}=\frac{\sqrt{5}m_1V_1}{2}$           (1)

 А далее следует использовать закон сохранения энергии системы.  Если скорость первого шара составляет половину начальной скорости, то кинетическая энергия его составляет 1/4 от начальной. Тогда кинетическая энергия второго шара равна 3/4 начальной кинетической энергии первого шара.

$\frac{m_2V-2^2}{2}=\frac{3}{4}*\frac{m_1V_1^2}{2}$           (2)              

Упростим:    $4m_2V_2^2=3m_1V_1^2$            (3)

Далее уравнения (1) и (3) рассматриваете, как систему двух уравнений с двумя неизвестными, из которой и находите искомую массу второго шара.