через окружность в квадрате заполнив множеством точек внутренности круга и квадрата и через отношение видимо подставив в формулу выразить π.
подскажите в каком направлении копать?
Погуглить "метод Монте-Карло". Это задача - самое его классическое приложение
Обсуждают сегодня